Le biais dans le domaine du droit

Introduction

L’intelligence artificielle influence de nombreux aspects de notre vie professionnelle et privée. On lui confie de plus en plus de problématiques et, pour des raisons d’efficacité, de productivité ou de rapidité d’exécution, nous lui laissons analyser nos informations, les interpréter et prendre des décisions. Comme nous l’avons vu, il devient nécessaire de se poser la question des risques d’une telle dépendance au regard de l’aura d’objectivité et d’infaillibilité que notre culture attribue aujourd’hui à l’IA. En effet, les algorithmes développés sont considérés comme déterministes, impartiaux, neutres et incorruptibles et sont rarement remis en cause.

Pourtant, et nous le verrons plus précisément dans ce chapitre, la réalité est différente. Les algorithmes d’intelligence artificielle apprennent à partir des données qui leur sont fournies et en déduisent des modèles qui leur permettront de fournir des résultats. On comprend donc l’importance de la validité de ce que l’on donne à l’IA si l’on veut garantir le résultat obtenu, que ce soient des données, de l’information, de l’éducation, de la formation, de l’expertise, des conseils...

Qu’appelle-t-on « biais » ?

Le biais, qui vient du latin populaire biaxius, signifie « qui a deux axes », c’est-à-dire qu’il peut avoir deux sens. Dans diverses disciplines, un biais est une erreur systématique ou une simplification abusive.

En effet, des biais peuvent être introduits en prenant des décisions basées sur des informations imparfaites, incomplètes, erronées ou s’appuyant sans le savoir sur certains préjugés. Par exemple : faire plus confiance à quelqu’un s’il est une figure d’autorité, supposer le genre de quelqu’un en fonction de sa profession, s’appuyer uniquement sur des informations que l’on connaît, etc.

Aussi, comme les humains, les intelligences artificielles qui utilisent les données, suivent des processus et des méthodes, et sont basées sur des algorithmes, sont sujettes aux biais.

Bien qu’il existe de nombreux types de biais, le biais cognitif et le biais algorithmique sont les deux qui nous intéressent dans le cadre des intelligences artificielles ; ce sont ceux que nous allons considérer dans la suite de ce chapitre, chacun de ces deux biais possédant leur propre sous-ensemble de biais.

Le biais dans le domaine du droit : risques et conséquences

La prévention

Quel que soit le domaine, la prévention des biais nécessite une approche proactive de la recherche des biais. Réagir face à des problèmes plus ou moins graves engendrés par des biais est essentiel, voire obligatoire, mais prévenir ceux-ci, est plus efficace et beaucoup moins impactant pour l’entreprise.

En intelligence artificielle où l’apprentissage automatique des machines est fréquent, les problèmes engendrés par les biais de codes ou de données peuvent ne pas être vus facilement et générer, comme nous l’avons vu plus avant, des risques et des conséquences importants pour l’organisme qui a mis l’IA en place.

La méthode que j’ai élaborée et qui est décrite en détail dans mon ouvrage Intelligence artificielle - Impact sur les entreprises et le business (2^e édition), s’appuie sur trois phases séquentielles majeures dans la prévention des biais. Une phase qui se situe avant la mise en place du système et qui se concentre sur la définition des spécifications, le choix des sources de données, le choix des données, le choix des variables, et la validation des informations. Une phase qui se déroule pendant la conception du système avec le choix des algorithmes, la finalisation du choix des variables, le choix du langage de programmation, la définition de l’environnement, la construction du modèle, les tests et l’analyse des résultats de test, et enfin, la phase qui se passe après la mise en place du système au travers de la mise en place d’un plan de contrôle, de la surveillance du système, l’analyse des résultats des contrôles, la détection des biais éventuels et la ou les correction(s).

Les trois phases de la prévention des biais

Ces trois phases n’ont pas la même fréquence d’exécution : la phase 1 sera exécutée au démarrage du projet et sera exécutée chaque fois qu’un des composants établis à...

Sources et références