Conclusion : Demain, une IA forte

Introduction

Des siècles de progrès technologiques ont abondamment profité à l’humanité. Grâce aux avancées de la médecine et de l’agriculture, des centaines de millions de personnes, dans les pays développés, jouissent aujourd’hui d’un niveau de vie dont peu de gens auraient pu rêver dans le passé, avec une santé, une alimentation et une longévité excellentes.

Nous disposons aujourd’hui d’appareils qui allègent le fardeau des tâches quotidiennes (telles que la cuisine, la lessive ou le nettoyage) ainsi que d’applications numériques qui facilitent et optimisent nos activités professionnelles.

Après avoir été longtemps bloqué dans « une machine », l’intelligence artificielle est désormais connectée au monde. Cette évolution constitue un défi technique et éthique : non seulement l’IA doit être en interaction avec l’utilisateur mais elle doit pouvoir simplement expliquer comment elle parvient à un résultat, tout en restant sous contrôle. Le monde automatisé de demain aura toujours besoin des humains immédiatement polyvalents qui seront seuls en mesure d’apporter ce qui constitue le carburant de toute l’intelligence artificielle : l’irrationnel, l’émotionnel, l’intuition, l’imaginaire et la créativité.

Toutefois, l’humanité est confrontée à de nombreux défis mondiaux, comme le changement climatique, la diminution des combustibles fossiles, les conflits armés, la pauvreté généralisée et les maladies incurables (cancer, démence…), les épidémies (le Covid-19).

Le meilleur espoir de résoudre ces problèmes passe assurément par le progrès scientifique et technologique. L’arrivée de l’intelligence artificielle en complément de l’intelligence humaine devrait permettre d’accélérer ce phénomène. En effet, si les commentateurs optimistes tels que Ray Kurzweil ont raison, la super intelligence des machines pourrait contribuer à créer une ère d’abondance sans précédent, dans laquelle la pauvreté et la maladie seraient abolies.

L’IA va -t-elle...

Le droit de l’IA est déjà une réalité

Le droit devra nécessairement accompagner ce mouvement. Toutefois, l’intelligence artificielle n’est pas un savoir stabilisé. Elle est, et restera pour un certain temps, encore, un savoir en construction, car elle est liée à l’évolution technologique et informatique. Dans ce contexte, le droit propose une alternative : puiser dans ses ressources, au risque de donner l’impression que la situation n’est pas ou est insuffisamment réglementée.

Remarquons qu’en raison de la complexité des systèmes en développement, de l’auto-adaptation des algorithmes reposant sur le Deep learning et du nombre quasi infini de situations auxquelles l’IA peut être confrontée, le développeur de l’IA ne peut pas sérieusement s’engager en toutes circonstances sur le fonctionnement conforme de son système.

Il semble difficile également de reprocher au concepteur d’avoir oublié un cas particulier d’utilisation susceptible de prendre l’IA en défaut. En revanche, il sera toujours possible de lui faire grief de ne pas l’avoir assez testée.

S’agissant des systèmes d’IA à haut risque, les développeurs sont désormais soumis à un ensemble d’obligations renforcées destinées...

Rendre l’IA explicable

Le besoin d’une intelligence artificielle digne de confiance, traçable, interprétable et auditable s’impose désormais comme une exigence centrale, à mesure que les systèmes algorithmiques participent à un nombre croissant de décisions affectant directement la situation juridique, économique ou sociale des individus. La question de l’explicabilité des décisions algorithmiques ne relève donc pas d’une simple exigence technique, mais constitue un enjeu fondamental de protection de l’autonomie individuelle et des droits fondamentaux.

Le RGPD a, en ce sens, posé un jalon essentiel. Son article 22 consacre le droit pour toute personne de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques ou l’affectant de manière significative, sauf exceptions strictement encadrées. Ce dispositif implique, en pratique, la possibilité d’une intervention humaine, d’une contestation de la décision et d’un accès à des informations pertinentes sur la logique sous-jacente au traitement, sans pour autant consacrer un droit général et absolu à l’explication exhaustive des algorithmes.

Le règlement sur l’intelligence artificielle prolonge et renforce cette logique...

Pour une IA complémentaire de l’humain

Il semble donc important de continuer les efforts de recherche dans ces domaines tant les applications sont diverses et stimulantes. Toutefois, cette dynamique ne saurait se déployer sans une réflexion éthique, philosophique et juridique approfondie, destinée à en encadrer les usages et à en prévenir les dérives.

Les neurotechnologies en offrent une illustration particulièrement éclairante. Si elles ouvrent des perspectives majeures pour l’amélioration de la prise en charge des personnes malades ou atteintes de troubles neurologiques, elles soulèvent simultanément de vives inquiétudes quant à la collecte, au traitement et à l’exploitation de données d’une sensibilité extrême. Ces technologies interrogent en effet les frontières mêmes de l’intimité, de l’autonomie cognitive et de l’identité personnelle, appelant ainsi un encadrement normatif renforcé afin que l’intelligence artificielle demeure un outil au service de l’humain, et non un facteur de dépossession ou de contrôle.

C’est pourquoi nous devrions, en Occident, abandonner l’idée culturellement ancrée que les technologies sont faites pour remplacer l’homme alors qu’elles se révèlent complémentaires...

Une IA forte

La croissance exponentielle des capacités informatiques selon la loi de Moore a permis aux ordinateurs de rivaliser avec l’homme sur des tâches précises en quelques années seulement. Les transistors se font de plus en plus petits, de plus en plus nombreux, de moins en moins coûteux en matériaux comme en énergie, à tel point que beaucoup de scientifiques sont aujourd’hui convaincus de l’émergence prochaine d’une superintelligence qui rivaliserait avec l’homme (N. Bostrom, Superintelligence, Avant-Propos, 2014 [trad. 2017]).

Potentiellement consciente d’elle-même, peut-être à même d’éprouver des sentiments, mais en tout cas simulant l’intelligence humaine dans toutes ses activités, les principales craintes quant à l’émergence de cette intelligence artificielle forte sont liées à son support même.

Dénuée d’enveloppe physique biologique, une telle intelligence ne serait limitée que par la puissance de calcul à sa disposition, faisant coïncider l’apparition de la première IA forte avec la singularité technologique.

La singularité technologique repose sur un postulat simple : à partir du moment où l’être humain, l’intelligence biologique normale, est parvenu à donner...

La personnalité juridique de l’IA forte

Le droit positif ne reconnaît aujourd’hui aucune personnalité juridique à l’IA, fût-elle qualifiée de forte. La question est en revanche discutée en doctrine, et elle mérite de l’être.

Cette discussion recouvre deux propositions distinctes. La première, calquée sur les personnes morales, doterait l’IA d’un patrimoine destiné à indemniser les victimes de ses dommages. C’est un débat de responsabilité civile, qui relève d’une autre discussion et que nous laissons ici de côté. La seconde, plus radicale, est celle qui nous occupe : certains auteurs proposent de créer pour l’IA forte une personnalité d’un type nouveau, plus proche de celle des personnes physiques que de celle des personnes morales.

Leur argument repose sur trois attributs que posséderait l’IA forte : une autonomie décisionnelle, une capacité à ressentir des émotions et une conscience d’elle-même. Ces attributs étant ceux de la personne humaine, l’IA qui les possède devrait bénéficier de la protection attachée à la personne humaine : un droit à la dignité.

Cet argument se heurte toutefois à une objection sérieuse, qui tient au fondement même...

Le contrôle de l’IA forte

La problématique du contrôle est notamment exposée par Nick Bostrom, professeur de philosophie et directeur de l’Institut pour le futur de l’humanité à l’Université d’Oxford.

Dans Superintelligence (2014), ce philosophe propose une expérience de pensée. Imaginons que la première intelligence artificielle apparaisse alors qu’une multinationale a cherché l’amélioration maximale de sa production de trombones.

L’IA est ainsi programmée à produire le plus de trombones possibles.

Face à cet objectif illimité et sans système de contrôle autre que la réalisation du but qui lui a été confié, l’IA qui souhaite l’atteindre n’aura d’autre choix que de produire des trombones jusqu’à l’épuisement de toutes les ressources à sa disposition, menant potentiellement l’humanité à son extinction avec celle de la planète.

Cette hypothèse avait également été exposée par Marvin Minsky, cofondateur du laboratoire d’IA du MIT, ayant suggéré que n’importe quel problème théorique illimité dont la résolution serait confiée à une IA aboutirait à transformer la Terre en un superordinateur afin d’être certaine de parvenir à sa résolution. 

Concernant les trombones, le chercheur envisage l’hypothèse d’une quantité maximale à produire. Ainsi, il pourrait être demandé à...

Les valeurs de l’IA forte

La problématique des valeurs repose non seulement sur la difficulté à les traduire en une programmation pour l’IA, mais également et surtout sur celle de leur délimitation.

L’IA forte sera peut-être la dernière invention de l’humanité, peut-on laisser son programmeur biaiser l’algorithme ultime ?

Eliezer Yudkowsky élabore la thèse de l’intelligence artificielle « amicale ». Ainsi, il serait souhaitable de demander à l’IA d’être « amicale ». Pour cela, l’IA devra rechercher en continu en quoi consiste cette propriété abstraite et chercher à toujours agir de manière à respecter cette valeur. Afin d’éviter des erreurs catastrophiques, il serait possible pour le programmeur de donner de premiers indices à l’IA du type « Tromper le programmeur n’est pas amical »¹⁰. Le postulat du programmeur serait identifié comme tel et il serait confié à l’IA le soin de s’en départir quand elle s’apercevra que le programmeur a ses propres biais et que « l’amicalité » au sens le plus vrai nécessite de s’écarter des premiers axiomes du programmeur.

Le problème est plus profond et plus large lorsque l’on souhaite déterminer au nom de l’humanité quelle est la valeur ultime et s’il s’agit réellement de l’amicalité. 

Plusieurs thèses sont plausibles, toutes nécessitent d’importantes facultés d’abstraction, Yudkowsky¹¹ propose par exemple la « volonté cohérente extrapolée de l’humanité  ».

Pour l’instant, il n’existe pas encore de solution technique pour l’implantation de valeurs au sein d’une intelligence artificielle.

Toutefois, le nombre de collectifs et institutions soucieux que l’éthique soit prise en compte dès le design de l’intelligence artificielle augmente et plusieurs propositions ont été faites pour que l’humanité ne fonce pas les yeux bandés vers la superintelligence.

Notes

¹ République française, Sommet pour l’action sur l’intelligence artificielle : Du 6 au 11 février 2025, Paris, févr. 2025 [https://www.elysee.fr/admin/upload/default/0001/17/b23266a02825f6bc6cdcd110ad8ec6b70d847515.pdf].

² Fondation internationale pour l’IA d’intérêt général visant à financer des initiatives concrètes qui servent l’intérêt général.

³ La Coalition pour l’IA durable lancée par la France, le Programme des Nations Unies pour l’environnement (PNUE), et l’Union internationale des télécommunications (UIT) vise à réduire le coût énergétique et environnemental de l’IA, afin qu’elle puisse se diffuser largement et contribuer positivement aux objectifs énergétiques et environnementaux.

⁴ L’Institut national pour l’évaluation et la sécurité de l’IA (INESIA), chargé d’analyser les risques systémiques dans le champ de la sécurité nationale et d’évaluer la performance des modèles, intégrant ainsi le réseau international des instituts de sûreté.

⁵ M. FABRE-MAGNAN, « La dignité en Droit : un axiome », Revue interdisciplinaire d’études juridiques...