Un recruteur m'a montré l'an dernier son outil de tri de CV. Très fier. Il m'explique que le modèle écarte les candidatures "à risque" en quelques secondes. Je lui demande sur quels critères. Il hausse les épaules : "C'est l'algorithme qui décide." Trois semaines plus tard, on découvrait que le système pénalisait systématiquement les candidats issus de certains quartiers. Personne ne l'avait voulu. C'est exactement là que commence la question de l'intelligence artificielle et de l'éthique : pas dans les discours de grands principes, mais dans les décisions concrètes qu'on laisse filer sans les regarder.
Ce qui m'agace, dans la plupart des textes sur le sujet, c'est qu'ils empilent des valeurs — équité, transparence, responsabilité — sans jamais dire qui fait quoi le lundi matin. Je vais essayer de faire l'inverse.
Points clés à retenir
- L'éthique de l'IA ne se joue pas au moment de l'entraînement, mais dans l'usage réel et dans qui assume les conséquences.
- Les biais ne sont presque jamais dans le code : ils sont dans les données historiques et dans les choix de définition.
- Un cadre réglementaire ne vaut que par les audits qu'il rend obligatoires, pas par les principes qu'il affiche.
- Garder l'humain "dans la boucle" n'a de sens que si ce humain a le temps, l'information et le pouvoir de contredire la machine.
- Les enjeux les moins traités aujourd'hui sont les plus lourds : systèmes autonomes, concentration du pouvoir de calcul, statut des contenus générés.
Ce qu'"éthique de l'IA" veut vraiment dire (et ce que ça ne veut pas dire)
Beaucoup confondent éthique et légalité. Une entreprise peut respecter le RGPD à la lettre et déployer un système parfaitement injuste. L'inverse est aussi vrai : un usage scrupuleux peut se heurter à une règle mal écrite.
L'éthique de l'intelligence artificielle, c'est l'ensemble des questions qu'on se pose quand la loi ne dit rien, ou quand elle dit quelque chose de trop vague pour trancher. Doit-on prévenir une personne qu'elle parle à un robot ? Peut-on noter la solvabilité de quelqu'un à partir de ses habitudes de navigation ? À qui appartient une image générée à partir du style d'un illustrateur vivant ?
Trois questions qui reviennent toujours
Après avoir accompagné quelques équipes sur ces sujets, je vois les mêmes interrogations tourner en boucle.
- Qui est responsable quand ça tourne mal ? Le développeur, l'éditeur, l'utilisateur final ? En pratique, tout le monde se renvoie la balle jusqu'à ce qu'un juge tranche.
- Sur quelles données le système a-t-il été nourri, et qui a validé ce choix ?
- Que se passe-t-il si on coupe l'outil demain ? Si la réponse est "on ne sait plus travailler", c'est un problème éthique autant qu'opérationnel.
Voilà pourquoi je préfère parler d'IA responsable plutôt que d'éthique : le mot "responsable" oblige à désigner quelqu'un. L'éthique, trop souvent, se dissout dans les comités.
Les biais algorithmiques : des exemples qui font mal
Un biais, ce n'est pas une opinion dans le code. C'est un raccourci statistique qui reproduit une inégalité déjà présente dans les données. Et les données, elles, viennent du monde réel — donc elles sont sales.
Le cas du recrutement
Le scénario que j'ai raconté plus haut n'a rien d'exotique. Un modèle entraîné sur des embauches passées apprend ce qui ressemble à un "bon candidat". Si, historiquement, votre entreprise a recruté majoritairement un certain profil, le modèle va considérer tout le reste comme atypique. Il ne discrimine pas parce qu'il est méchant. Il discrimine parce qu'il est fidèle.
La correction ne consiste pas à "débiaiser" le modèle après coup. Elle consiste à se demander si la variable visée (le diplôme, l'adresse, la durée des pauses entre deux emplois) a un rapport réel avec la compétence. Neuf fois sur dix, non.
Le scoring de crédit
Même logique côté banque. Un système qui attribue une note de solvabilité à partir de dizaines de signaux peut très bien refuser un prêt à quelqu'un de parfaitement solvable, simplement parce qu'il ressemble statistiquement à un groupe qui rembourse moins. L'individu paie pour la moyenne de son groupe. C'est difficile à justifier autrement que par le confort de la banque.
Franchement, quand j'entends qu'un tel système "améliore l'objectivité", je souris jaune. On a remplacé le préjugé du conseiller par le préjugé agrégé de dix ans d'archives.
Réglementation : ce qui est vraiment obligatoire en France et en Europe
Ici, il faut être précis, parce que beaucoup d'articles mélangent principes, recommandations et obligations légales.
Trois niveaux cohabitent. D'abord le droit existant : protection des données, non-discrimination, droit du travail. Ces règles s'appliquent à l'IA comme à n'importe quel outil — un algorithme qui discrimine viole déjà la loi, sans qu'il faille un texte spécial. Ensuite, le cadre européen sur l'IA, qui classe les systèmes par niveau de risque et impose des obligations renforcées aux usages sensibles : recrutement, éducation, santé, sécurité publique. Enfin, les recommandations non contraignantes, comme celles issues de l'UNESCO ou des autorités de protection des données, qui servent de boussole mais n'ont pas force de loi.
Ce qui change concrètement pour une équipe
- Documenter ce que fait le système, pour qui, avec quelles données.
- Évaluer le risque avant la mise en service, pas après le premier incident.
- Prévoir une supervision humaine réelle sur les décisions à fort impact.
- Pouvoir expliquer une décision individuelle à la personne concernée.
J'ai vu des équipes passer six mois sur un dossier de conformité et zéro heure sur la question "est-ce qu'on a envie de rendre ce service-là". Le second point compte davantage. Le premier protège juridiquement ; le second protège votre réputation et, accessoirement, votre conscience.
Comparer les approches : principes, droit, et réalité du terrain
Le tableau ci-dessous résume les trois familles d'approches que je croise le plus souvent. Il n'y a pas de bonne réponse universelle — chaque registre a ses limites.
| Approche | Ce qu'elle apporte | Sa faiblesse |
|---|---|---|
| Déclaration de principes | Fixe un cap, facilite le dialogue interne | Ne contraint personne, souvent signée puis oubliée |
| Cadre réglementaire contraignant | Oblige à documenter, crée un recours pour les victimes | Se périme vite face à la technique, laisse des zones grises |
| Audit et certification par un tiers | Vérifie réellement, compare les pratiques | Coûteux, et l'auditeur peut lui-même être partial |
Mon avis, et je l'assume : sans le troisième niveau, les deux premiers servent surtout à se rassurer. Un principe que personne ne vérifie n'est pas une règle, c'est une intention.
Les enjeux dont on parle trop peu
La plupart des débats tournent autour des biais et de la vie privée. Les questions les plus lourdes, elles, restent à la marge.
La concentration du pouvoir de calcul
Entraîner un grand modèle coûte une fortune en énergie et en matériel. Résultat : une poignée d'acteurs décident de ce que la plupart des outils peuvent ou ne peuvent pas faire. Ce n'est pas une question technique, c'est une question de gouvernance. Une éthique de l'IA qui ignore qui tient les serveurs passe à côté de l'essentiel.
Les systèmes autonomes et la décision létale
Déléguer une décision irréversible à une machine pose un problème qu'aucun principe général ne résout. La question n'est pas "le système est-il fiable ?" mais "accepte-t-on qu'il se trompe, et qui en répond ?". Tant qu'on n'a pas de réponse claire, la prudence s'impose.
Le statut des contenus générés
Images, textes, voix clonées. Aujourd'hui, n'importe qui peut fabriquer un faux convaincant en quelques minutes. Le vrai enjeu n'est pas technique — c'est la confiance collective. Si plus personne ne peut distinguer un document authentique d'un faux, ce n'est pas seulement la désinformation qui gagne, c'est tout le crédit de la preuve.
Comment traduire tout ça en pratique, sans se raconter d'histoires
Un principe éthique qui n'a pas de procédure derrière ne survit pas au premier sprint. Voici ce que j'ai vu fonctionner, et ce que j'ai vu échouer.
Ce qui marche : désigner une personne responsable par système déployé (pas un comité, une personne), écrire noir sur blanc à quoi sert l'outil et à quoi il ne sert pas, et prévoir un bouton d'arrêt. Ce qui ne marche pas : les chartes de trente pages que personne ne relit.
Une chose que j'ai apprise à mes dépens : un modèle peut sembler irréprochable en démo et se comporter très différemment à grande échelle. J'ai vu un prototype classer correctement les cas pendant des semaines, puis dérailler dès qu'on lui a donné des données un peu moins propres. La leçon : testez sur des cas moches, pas sur des cas vitrine.
Garder la main humaine : oui, mais laquelle ?
"Human in the loop" est devenu un slogan. En pratique, si la personne qui valide a trente secondes par dossier et aucun moyen de contester la machine, ce n'est pas une supervision, c'est une signature. La condition pour que la main humaine ait du sens est simple : du temps, de l'information, et le pouvoir de dire non sans se faire reprocher un retard.
Ce qui reste, une fois qu'on a tout dit
L'intelligence artificielle ne crée presque jamais de problème éthique nouveau. Elle accélère et amplifie des problèmes que nous connaissions déjà : le pouvoir, la discrimination, la surveillance, la répartition des richesses. Ce qui change, c'est la vitesse. On n'a plus le temps de la discussion informelle qui rattrapait autrefois les décisions mal prises.
La question qui me travaille le plus n'est pas "comment rendre l'IA éthique ?". C'est : sommes-nous prêts à ralentir là où ça compte ? Parce que la plupart des dérapages que j'ai vus ne venaient pas d'un manque de principes. Ils venaient de gens qui avaient besoin de livrer pour vendredi.
Et si la vraie éthique de l'IA, au fond, c'était juste de laisser une place à la question "est-ce qu'on devrait ?" avant de passer à "est-ce qu'on peut ?".
