1. Livres & vidéos
  2. L’intelligence artificielle expliquée
  3. IA et éthique
Extrait - L’intelligence artificielle expliquée Des concepts de base aux applications avancées de l’IA (2e édition)
Extraits du livre
L’intelligence artificielle expliquée Des concepts de base aux applications avancées de l’IA (2e édition) Revenir à la page d'achat du livre

IA et éthique

Introduction à l’éthique de l’IA

Bienvenue dans cette section consacrée à l’éthique de l’intelligence artificielle. Au fil de ces pages, nous explorerons les bases fondamentales de cette discipline cruciale et son rôle essentiel dans le développement et l’utilisation responsable de l’IA.

L’éthique de l’IA se penche sur les questions morales qui entourent la création, l’utilisation et les effets de l’intelligence artificielle. Elle examine les dilemmes complexes auxquels sont confrontés les décideurs politiques, les informaticiens, les entreprises, mais aussi toute la société dans son ensemble lorsqu’ils interagissent avec l’IA. L’objectif principal de l’éthique de l’IA est de veiller à ce que les applications de cette technologie respectent les valeurs humaines, la justice et la transparence.

Si vous avez lu la première édition de cet ouvrage, vous trouverez ce chapitre profondément transformé, et ce n’est pas un caprice d’auteur. Quand j’ai écrit ces pages pour la première fois, l’éthique de l’IA était un sujet de colloque. On en parlait au futur, avec des « il faudrait que », des chartes volontaires et des comités consultatifs. En deux ans, elle est devenue du droit positif, avec des dates d’application, des autorités de contrôle et des amendes pouvant atteindre 35 millions d’euros ou 7 % du chiffre d’affaires mondial. Le règlement européen sur l’intelligence artificielle, l’AI Act, est entré en vigueur le 1er août...

Biais et éthique

Les biais au sein de l’IA se manifestent lorsque les systèmes d’intelligence artificielle reproduisent ou amplifient les préjugés présents dans les données d’entraînement. La compréhension et l’atténuation de ces biais revêtent une importance capitale dans la création de systèmes d’IA équitables et justes.

Première chose à comprendre, et c’est contre-intuitif : un modèle biaisé n’est pas un modèle défectueux. C’est souvent un modèle qui fonctionne parfaitement, au sens statistique du terme. Il a très fidèlement appris ce que nous lui avons montré. Le problème, c’est que ce que nous lui avons montré, c’est le monde tel qu’il est, avec ses inégalités, et non le monde tel que nous voudrions qu’il soit. Une IA n’a aucune intention discriminatoire : elle n’a aucune intention du tout. Quand une discrimination est voulue, elle vient d’un humain qui l’a programmée ; quand elle ne l’est pas, elle vient des données. Elle optimise, et en optimisant, elle fossilise le passé. L’image est à prendre au pied de la lettre. Un fossile, c’est un être vivant figé dans la pierre tel qu’il était au moment où il y a été pris. Un modèle fait la même chose avec nos décisions passées. Si, pendant dix ans, une entreprise a moins promu les femmes que les hommes, le modèle entraîné sur cet historique ne voit pas une injustice à corriger : il voit une règle à appliquer, et il l’appliquera demain avec la régularité d’une machine. Je le résume ainsi : une IA ne prédit pas l’avenir, elle prolonge le passé.

Il est utile de distinguer trois familles de biais, car elles n’appellent pas les mêmes remèdes.

  • Le biais de données est le plus connu. Il naît d’un jeu d’entraînement non représentatif de la population sur laquelle le modèle sera utilisé. C’est le cas d’école du système de reconnaissance faciale entraîné majoritairement sur des visages masculins...

Transparence de l’IA

La transparence est un pilier de l’éthique de l’intelligence artificielle et de la conception de systèmes d’IA responsables. Elle permet de garantir que les décisions de l’IA sont justifiables, explicables et dépourvues de biais cachés.

Avant d’aller plus loin, définissons trois termes que l’on emploie comme des synonymes alors qu’ils désignent trois choses différentes :

  • La transparence consiste à dire ce que fait le système : quelles données, quel usage, quelles limites. C’est une exigence de communication.

  • L’interprétabilité consiste à comprendre comment le modèle fonctionne de l’intérieur, à « ouvrir le capot ». C’est une exigence scientifique.

  • L’explicabilité consiste à justifier une décision particulière auprès de la personne concernée : pourquoi ce dossier a été refusé, pourquoi cette alerte a été déclenchée. C’est une exigence opérationnelle et juridique. On peut parfaitement avoir un système transparent et inexplicable, ou explicable et opaque.

Quand on me demande « est-ce que notre IA est explicable ? », ma première réponse est toujours une question : explicable pour qui, et pour décider quoi ?

Lorsqu’un système d’IA, quel qu’il soit, prend une décision, qu’il s’agisse de recommander une musique, de prédire une maladie ou d’émettre un jugement juridique, il est essentiel que cette décision puisse être comprise par les utilisateurs, les experts et les parties prenantes. La transparence dans le processus de prise de décision de l’IA répond à plusieurs objectifs majeurs :

  • Responsabilité : comprendre les décisions de l’IA permet de déterminer qui est responsable en cas d’erreur ou de préjudice. Cela est essentiel pour établir des lignes de responsabilité claires, que ce soit du côté des développeurs, des utilisateurs ou des gestionnaires des systèmes d’IA.

  • Confiance : la transparence renforce la confiance des utilisateurs...

Vie privée et sécurité des données

La vie privée et la sécurité des données sont des préoccupations majeures en matière d’éthique de l’intelligence artificielle (IA). À mesure que l’IA continue de se développer et de jouer un rôle de plus en plus important dans nos vies, la protection des données personnelles et la sécurité des informations deviennent essentielles pour garantir que cette technologie est utilisée de manière responsable et éthique.

Un déplacement majeur s’est produit depuis la première édition de cet ouvrage, et il faut le nommer clairement. En 2023, la question de la vie privée dans l’IA se posait principalement en amont, au niveau des données d’entraînement : avait-on le droit d’utiliser telle base pour construire tel modèle ? Cette question reste entière. Mais elle a été rejointe, et souvent dépassée en volume, par une question qui se pose en aval, au niveau de l’usage :

Que se passe-t-il quand des dizaines de milliers de salariés collent chaque jour des documents internes dans un agent conversationnel grand public ?

Le risque n’est plus seulement dans le laboratoire, il est sur chaque poste de travail. Et il ne relève plus de la direction technique, il relève de la culture d’entreprise. 

Le réflexe à installer en entreprise tient en une question que chacun doit se poser avant d’appuyer sur [Entrée] : est-ce que j’accepterais que ce texte soit lu par quelqu’un d’extérieur à mon organisation ? Si la réponse est non, le texte n’a rien à faire dans un service grand public. La distinction entre les offres grand public et les offres professionnelles est ici décisive : les secondes proposent généralement et contractuellement la non-utilisation des données pour l’entraînement, un hébergement localisé et souvent une rétention nulle. Ce n’est pas un détail commercial, c’est la ligne de partage.

L’IA traite souvent d’énormes quantités de données, y compris des données personnelles identifiables. La protection...

Responsabilité et prise de décision

La notion de responsabilité et de prise de décision dans le domaine de l’intelligence artificielle est cruciale pour garantir une utilisation éthique et responsable de cette technologie en constante évolution. Comprendre qui est responsable des actions et des décisions prises par les systèmes d’IA est essentiel pour établir un cadre éthique solide.

Une décision de justice canadienne de février 2024 a donné à cette question sa réponse la plus claire. Un client de la compagnie aérienne Air Canada avait interrogé l’agent conversationnel de la compagnie sur les tarifs applicables en cas de deuil, et avait reçu une information erronée. Le remboursement lui ayant été refusé, l’affaire est allée devant un tribunal, où la compagnie a soutenu que le chatbot était une entité distincte, responsable de ses propres propos.

L’argument a été rejeté : Air Canada répond de toutes les informations figurant sur son site, qu’elles proviennent d’une page statique ou d’une intelligence artificielle. Les sommes en jeu étaient dérisoires, le principe ne l’est pas. Cela démonte en trois minutes l’illusion la plus répandue chez les dirigeants : votre IA vous engage.

Lorsqu’une IA prend une décision ou réalise une action, il est nécessaire de déterminer où réside la responsabilité de cette action. Cette question soulève plusieurs points importants :

  • Responsabilité des développeurs : les concepteurs et les développeurs de l’IA ont une responsabilité fondamentale dans la création de systèmes d’IA éthiques....

De l’éthique à la loi : le cadre réglementaire

Tout ce que nous avons vu jusqu’ici relevait du devoir. Nous entrons maintenant dans le domaine de l’obligation. C’est le changement le plus profond survenu depuis la première édition de cet ouvrage, et celui qui bouleverse le plus concrètement la vie des organisations : entre 2023 et 2026, l’éthique de l’IA est passée du séminaire au Journal officiel.

1. Le règlement européen sur l’intelligence artificielle

Adopté en 2024 et entré en vigueur le 1er août de cette même année, l’AI Act est le premier texte au monde à encadrer l’intelligence artificielle de manière générale et contraignante. Sa logique est simple et vaut la peine d’être comprise, car elle est totalement différente de celle du RGPD : le règlement ne s’intéresse pas à la technologie employée, mais à l’usage qui en est fait. Un même modèle sera libre d’usage dans un cas et strictement encadré dans un autre. Tout dépend de ce que vous en faites et de qui en subit les conséquences.

Le texte répartit les systèmes en quatre niveaux pyramidaux, du plus grave au plus anodin :

images/12RI02.png

a. Le risque inacceptable

Il correspond à des pratiques purement et simplement interdites dans l’Union depuis le 2 février 2025. On y trouve la notation sociale des individus par les autorités publiques, l’exploitation des vulnérabilités liées à l’âge ou au handicap, les techniques de manipulation subliminale, la reconnaissance des émotions sur le lieu de travail et dans les établissements d’enseignement, la police prédictive fondée sur le seul profilage, ainsi que la constitution de bases de reconnaissance faciale par moissonnage indiscriminé d’internet. Cette dernière interdiction n’est pas théorique : elle vise des pratiques réellement documentées.

b. Le haut risque

Ce dernier couvre les systèmes utilisés dans des domaines où une erreur porte atteinte aux droits des personnes : le recrutement et la gestion...

Les parties prenantes de l’éthique de l’IA

L’élaboration de principes éthiques pour assurer une utilisation et un développement responsables de l’IA requiert une collaboration entre les divers acteurs de l’industrie. Ces parties prenantes doivent examiner attentivement la manière dont les aspects sociaux, économiques et politiques se croisent avec le domaine de l’IA, et chercher des moyens d’harmoniser la coexistence entre les machines et les êtres humains.

Chacune de ces catégories d’acteurs joue un rôle essentiel dans la promotion d’une IA moins sujette aux biais et aux risques :

  • Les universitaires : les chercheurs et les professeurs ont la responsabilité de développer des théories, des statistiques et des idées basées sur la recherche, qui peuvent ensuite soutenir les gouvernements, les entreprises et les organisations à but non lucratif.

  • Le gouvernement : les agences et les comités gouvernementaux peuvent faciliter la mise en place de l’éthique de l’IA au sein d’une nation. Un exemple significatif en est le rapport « Préparer l’avenir de l’intelligence artificielle » élaboré en 2016 par le Conseil national de la science et de la technologie, qui aborde les implications de l’IA pour la sensibilisation du public, la...

Conséquences sociales et économiques

L’éthique dans le domaine de l’intelligence artificielle ne se limite pas à des questions techniques et morales ; elle englobe également des répercussions importantes sur le tissu social et économique. Comprendre les conséquences sociales et économiques de l’IA est crucial pour guider son développement et son déploiement de manière responsable.

L’automatisation et l’IA peuvent transformer le marché du travail de manière significative. Bien que l’IA puisse automatiser des tâches répétitives et améliorer l’efficacité, elle peut également rendre certains emplois obsolètes. Il est important de prendre en compte les conséquences sociales de ces changements.

Les préoccupations éthiques entourant l’IA sont nombreuses et complexes. Voici quelques-unes des questions cruciales qui préoccupent les experts en IA :

  • Le chômage : que se passe-t-il lorsque les emplois disparaissent ? L’automatisation suscite des inquiétudes quant à la perte d’emplois. Alors que nous automatisons certaines tâches, cela peut créer des opportunités pour des rôles plus complexes, mais cela soulève également des interrogations sur la manière dont les individus occuperont leur temps en dehors du travail rémunéré. 

  • L’inégalité : comment répartir la richesse créée par l’IA ? L’IA peut réduire la dépendance à l’égard de la main-d’œuvre humaine, ce qui signifie que les revenus pourraient se concentrer entre quelques mains, creusant ainsi les inégalités. Comment pouvons-nous structurer une économie équitable dans un monde post-travail ?

  • L’impact sur l’humanité : comment les machines influencent-elles notre comportement et nos interactions ? Les systèmes d’IA sont de plus en plus capables de simuler des conversations humaines. Cela soulève des questions sur la façon dont ces interactions affecteront notre comportement et notre dépendance à la technologie.

  • L’intelligence artificielle et les erreurs : comment...

Conclusion : une IA, oui, mais une IA éthique

En concluant ce chapitre dédié à l’éthique de l’IA, il apparaît clairement que nous ne pouvons pas sous-estimer l’importance cruciale d’aborder l’IA sous un angle éthique. Les avancées technologiques ouvrent la voie à des opportunités prometteuses, mais elles soulèvent également une myriade de questions complexes liées à la responsabilité individuelle et collective, aux valeurs fondamentales et à l’impact sociétal. Appréhender ces enjeux est impératif si nous aspirons à façonner un avenir où l’IA contribue de manière constructive à notre société.

Tout au long de ce chapitre, nous avons examiné les liens entre différents thèmes, tels que les biais, la transparence, la protection de la vie privée, la responsabilité, les conséquences sociales et économiques, ainsi que la formation et la sensibilisation. Ensemble, ces éléments forment la trame de fond de l’IA éthique. En acquérant une compréhension approfondie de ces concepts, vous êtes désormais mieux outillé pour prendre des décisions éclairées et exercer une influence positive sur l’adoption et l’évolution de l’IA....