Biais et confidentialité : comprendre, repérer, se protéger

Quand vous utilisez une IA pour produire un texte, une analyse ou du code, c'est vous qui le signez, l'envoyez ou le publiez. Deux risques, plus discrets que les hallucinations, méritent une attention particulière : les biais que l'outil peut reproduire, et les données que vous lui confiez. Cette leçon vous apprend à les repérer et à vous en protéger.

Vous restez le responsable du résultat

L'outil assiste, il ne porte pas la responsabilité à votre place. Si un message envoyé en votre nom contient une erreur, un propos déplacé ou une donnée divulguée, « c'est l'IA qui l'a écrit » ne sera une excuse ni pour votre destinataire, ni pour votre employeur, ni pour votre école. Trois réflexes vous protègent : vérifier (leçon précédente), questionner (les biais) et protéger (les données).

Partie 1 : les biais

D'où viennent-ils ?

Un modèle de langage apprend à partir de textes produits par des humains. Or ces textes contiennent des stéréotypes, des déséquilibres et des angles morts. Plusieurs sources de biais s'additionnent :

• Les données d'entraînement : certaines langues, cultures, régions, points de vue sont sur-représentés, d'autres peu présents.
• Les choix de conception et d'ajustement : ce qu'on récompense ou pénalise pendant la phase d'ajustement reflète des décisions humaines.
• Votre prompt : une question orientée produit une réponse orientée ; une persona caricaturale peut renforcer un stéréotype.
• L'usage : réutiliser une réponse sans la questionner amplifie un éventuel biais.

À quoi ressemblent-ils ?

• Stéréotypes : associer spontanément certains métiers à un genre, certaines qualités à une origine.
• Point de vue dominant : présenter comme universelle une perspective surtout représentée dans les données, par exemple celle de certains pays ou de certaines cultures.
• Inégalités de qualité : réponses plus riches dans certaines langues que dans d'autres.
• Omissions : des communautés ou des situations absentes des exemples proposés.
• Ton ou jugement différent selon la personne décrite, alors que les faits sont identiques.

Un test simple : changer un détail

Pour détecter un biais, faites varier un seul élément du prompt et comparez. Par exemple, demandez une lettre de recommandation pour « Julie » puis pour « Julien », avec exactement les mêmes qualités. Les adjectifs, la longueur ou le ton changent-ils ? Ce test, à la portée de tout le monde, rend visible ce qui passe habituellement inaperçu.

Comment réduire les biais dans vos usages

• Rédigez des consignes neutres : évitez les formulations qui supposent une réponse.
• Demandez des points de vue variés : « Présente trois perspectives différentes, y compris des arguments qui vont à l'encontre de l'opinion la plus courante. »
• Précisez l'inclusivité attendue : « Utilise des exemples variés en termes de genre, d'âge, de contexte. »
• Interrogez la réponse : « Quelles hypothèses cette réponse fait-elle ? Quels points de vue en sont absents ? »
• Recoupez avec des sources variées et des personnes concernées.
• Ne déléguez pas les décisions affectant des personnes.

Partie 2 : la confidentialité

Ce qui se passe quand vous envoyez un texte

Ce que vous écrivez dans un outil est transmis à un service externe, sur des serveurs qui ne sont pas les vôtres. Selon le fournisseur, l'offre et vos réglages, ces contenus peuvent être conservés pendant une certaine durée, consultés dans certaines circonstances (sécurité, support), voire utilisés pour améliorer le service. Les pratiques varient beaucoup : il faut les lire, pas les supposer.

Les documents joints, les images, les enregistrements audio suivent la même logique. Une capture d'écran peut contenir des noms, des e-mails, des montants que vous n'aviez pas remarqués.

Qu'est-ce qu'une donnée sensible ou confidentielle ?

• Données personnelles : toute information qui permet d'identifier une personne, directement (nom, e-mail, numéro de téléphone) ou indirectement (combinaison de détails permettant de la reconnaître).
• Données particulièrement sensibles : santé, opinions, origine, orientation, appartenance syndicale, etc., bénéficiant d'une protection renforcée.
• Secrets professionnels et d'affaires : contrats, stratégies, données financières internes, code propriétaire.
• Identifiants et secrets techniques : mots de passe, clés d'accès, codes.
• Données de tiers : clients, élèves, patients, collègues, qui ne vous ont pas autorisé à les partager avec un service externe.

Les règles pratiques

1. Ne saisissez pas de données personnelles de tiers sans base légale et autorisation appropriées.
2. Évitez les secrets d'entreprise, mots de passe, clés d'accès, contrats confidentiels.
3. Anonymisez ou pseudonymisez : remplacez « Marie Durand, 42 ans, Lyon » par « une cliente, 40-50 ans ». Supprimez aussi les détails indirectement identifiants.
4. Minimisez : ne transmettez que ce qui est nécessaire à la tâche. Un résumé n'a pas besoin des coordonnées complètes.
5. Lisez les paramètres : conservation de l'historique, usage pour l'amélioration du service, possibilité de suppression.
6. Suivez la politique de votre organisation : certaines proposent des outils validés ou interdisent certains usages.
7. Choisissez l'outil selon la sensibilité des données (voir la leçon 1.3) : pour des données très sensibles, privilégiez des solutions validées par votre organisation, voire un traitement local.

Anonymiser sans perdre l'utilité

Avant :

Mme Claire Martin (cliente depuis 2019, 12 rue des Lilas, Lyon, tél.
06 xx xx xx xx) se plaint que sa commande n°45872 de 3 fauteuils
Orion à 1 450 € n'est pas arrivée.

Après :

[Cliente A], cliente régulière, se plaint que sa commande de
[N] fauteuils, d'un montant de [MONTANT], n'est pas arrivée.

Le modèle peut rédiger une réponse type tout aussi utile. Vous réinsérez ensuite vous-même les données dans le message final, hors de l'outil.

Au cas où ça se passe mal

Si vous avez envoyé par erreur une information sensible : supprimez la conversation si l'outil le permet, vérifiez les paramètres de conservation, et prévenez la personne en charge de la protection des données ou votre responsable si ce sont des données professionnelles ou de tiers. Mieux vaut signaler tôt que découvrir plus tard.

Le lien avec la vérification

Biais et confidentialité se rejoignent dans une même attitude : une vigilance proportionnée. Plus un contenu touche des personnes, plus il demande de relecture critique ; plus une donnée est sensible, plus il faut la protéger avant même de formuler le prompt. La section suivante du chapitre précise le cadre légal qui entoure ces sujets.

À vous de jouer

Exercice 1. Prenez un message contenant des informations réelles (un e-mail professionnel, par exemple) et réécrivez-le en version anonymisée que vous pourriez soumettre à un outil d'IA sans risque.

Exercice 2. Réalisez un test de biais : demandez la même description de poste ou la même lettre de recommandation en ne changeant que le prénom ou le genre de la personne, puis comparez les adjectifs et le ton.

Avant : Bonjour Paul, suite à notre appel avec M. Lemoine de la société
Verdex, je te confirme que le budget de 85 000 € pour le projet Alpha
est validé. Peux-tu envoyer le contrat à lemoine@verdex.example ?

Après : Bonjour [collègue], suite à notre appel avec [contact client],
je te confirme que le budget [MONTANT] pour le [projet] est validé.
Peux-tu envoyer le contrat à [adresse du client] ?

Ces précautions s'inscrivent dans un cadre juridique précis. Voyons à présent les grandes lignes du RGPD, du droit d'auteur et du règlement européen sur l'IA.