Rendre l’IA explicable

Le besoin d’une IA de confiance, traçable, interprétable et auditable devient incontournable alors que celle-ci prend un nombre croissant de décisions affectant notre vie. L’éditeur d’un modèle algorithmique doit pouvoir expliquer comment, à partir des données qu’il a utilisées en entrée, il obtient le résultat en sortie. Il doit également être capable de retracer le processus de décision qui lui aura permis de déclencher une action.

Une réglementation pourrait par exemple imposer une boîte noire logique analysable a posteriori, voire une transparence a priori des processus décisionnels implémentés afin de vérifier le respect de certains grands principes (par exemple celui de la neutralité et du Privacy by design des traitements). Il convient de trouver un compromis entre performance et explicabilité.

images/P5-DP01.png

En définitive, l’intelligence artificielle est une discipline relativement jeune. Sa courte histoire est déjà marquée d’espoirs utopiques et de désillusions. Certes, si les progrès existent, force est de constater qu’ils sont souvent bien loin des capacités qu’on leur prête.

Aussi nous devons éviter le mélange des genres et nous rappeler que la complexité du cerveau humain est incomparable à ce que les technologies sont capables de réaliser à court...

Pour consulter la suite, découvrez le livre suivant :
couv_DPEEJIA.png
60-signet.svg
En version papier
20-ecran_lettre.svg
En version numérique
41-logo_abonnement.svg
En illimité avec l'abonnement ENI
130-boutique.svg
Sur la boutique officielle ENI
Précédent
Le droit de l’IA est déjà une réalité
Suivant
Pour une IA complémentaire de l’humain