1. Livres & vidéos
  2. Intelligence Artificielle
  3. L'approche européenne pour une IA de confiance
Extrait - Intelligence Artificielle Mode d’emploi pour déployer l’IA en toute sécurité juridique
Extraits du livre
Intelligence Artificielle Mode d’emploi pour déployer l’IA en toute sécurité juridique Revenir à la page d'achat du livre

L'approche européenne pour une IA de confiance

Introduction

Le règlement européen n° 2024/1689 sur l’IA adopté le 13 juin 2024 est un règlement de produit qui vise à favoriser l’émergence d’une IA centrée sur l’humain, digne de confiance et conforme aux valeurs fondamentales de l’UE (cons. 1).

Des règles proportionnées et souples sont prévues pour faire face aux risques spécifiques liés aux systèmes d’IA, et constituent l’ensemble de normes le plus strict au monde.

Un plan coordonné adopté en 2018 décrivait les réorientations et les investissements qui seront nécessaires au niveau des États membres pour renforcer la position de premier plan de l’Europe dans le développement d’une IA centrée sur l’humain, durable, sûre, inclusive et digne de confiance.

images/P2-02DP01.png

La première obligation consiste pour les fournisseurs, les déployeurs, ainsi que leur personnel et les autres personnes participant au fonctionnement ou à l’utilisation des systèmes d’IA d’assurer la maîtrise de l’IA.

Focus sur l’obligation générale de maîtrise de l’IA

Pour une lecture critique d’une obligation nouvelle : former à l’intelligence artificielle ou former à la responsabilité ?

Faire l’exégèse de l’article 4 du Règlement européen sur l’intelligence artificielle, ce n’est pas seulement commenter une norme. C’est interroger une époque. C’est sonder la manière dont le droit tente, parfois maladroitement, de reprendre la main sur une mutation technologique qui bouleverse les métiers, les savoirs, les hiérarchies et, plus profondément encore, notre rapport au travail intellectuel.

L’article 4 du Règlement (UE) 2024/1689, le désormais célèbre AI Act, impose aux fournisseurs et aux déployeurs de systèmes d’intelligence artificielle de garantir un « niveau suffisant de connaissances » en matière d’IA à leur personnel et à toute personne impliquée dans l’usage de ces systèmes. Formule apparemment simple. Exigence en réalité vertigineuse. Suffisant pour qui  ? Suffisant pour quoi ? Suffisant à quel moment, dans un monde où la technologie court plus vite que la norme qui prétend l’encadrer ?

L’intelligence artificielle ne se contente plus d’assister les métiers intellectuels : elle les reconfigure. Elle écrit, calcule, classe, prédit. Elle ébranle les critères traditionnels de compétence, modifie les modes d’évaluation, redessine les schémas de rémunération. Cette onde de choc traverse indistinctement les salles de classe de l’Éducation nationale comme les comités exécutifs des entreprises du CAC 40.

Face à cette accélération, le législateur européen a choisi de ne pas légiférer seulement sur les machines, mais aussi sur les hommes et les femmes qui les utilisent. L’article 4 de l’AI Act consacre ainsi une toute nouvelle obligation : former, alphabétiser, responsabiliser. Mais quelle est la portée réelle de cette obligation ? Quels en sont les enjeux pratiques ? Et quelles difficultés...

L’approche de l’AI Act fondée sur les risques

Les nouvelles règles, fondées sur une définition de l’IA à l’épreuve du temps, sont désormais directement applicables dans tous les États membres. Elles suivent une approche fondée sur les risques. Le règlement prévoit quatre niveaux de risques : minime, limité, élevé et inacceptable.

En pratique, il n’est pas question d’autoriser des usages inacceptables en IA au sein de l’Union. En revanche, l’IA relevant de l’un des trois premiers niveaux pourra être mise en œuvre. Évidemment, la rigueur des obligations sera différente selon l’usage jugé peu risqué ou encore critique.

Examinons chacun de ces quatre niveaux en partant de celui qui n’est pas concevable pour terminer par celui qui est infime.

  • les systèmes d’IA inacceptables,

  • les systèmes d’IA à haut risque,

  • les systèmes d’IA tenus à des obligations spécifiques de transparence,

  • les systèmes d’IA autorisés.

1. Les systèmes d’IA inacceptables

Les systèmes d’IA considérés comme une menace évidente pour la sécurité, les moyens de subsistance et les droits des personnes sont interdits. Il s’agit notamment des systèmes ou applications d’IA qui manipulent le comportement humain pour priver les utilisateurs de leur libre arbitre (par exemple, des jouets utilisant une assistance vocale incitant des mineurs à avoir un comportement dangereux) et des systèmes qui permettent la notation sociale par les États.

Depuis le 2 février 2025, le règlement sur l’IA s’applique aux systèmes d’IA interdits. 

En outre, la Commission européenne a publié le 29 juillet 2025 les lignes directrices sur les pratiques interdites en matière d’IA, afin d’apporter des précisions quant au champ d’application de l’article 5 du règlement sur l’intelligence artificielle, sa portée et ses exclusions.

Un usage inacceptable regroupe des systèmes de notation sociale par les États (à l’image de ce qui se fait en Chine), et des jouets dotés d’un assistant...

Notes

1 https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers - Culture de l’IA - Questions et réponses relatif à l’article 4 de la loi sur l’IA exige que les fournisseurs et les déployeurs de systèmes d’IA veillent à ce que leur personnel et les autres personnes traitant des systèmes d’IA pour leur compte possèdent un niveau suffisant de connaissances en IA

2 Liste d’évaluation de l’intelligence artificielle digne de confiance (ALTAI) pour l’autoévaluation. (s. d.). Bâtir L’avenir Numérique de L’Europe [https://digital-strategy.ec.europa.eu/fr/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment]