La discrimination digitale : biais aux multiples facettes

Pour entrer dans la dialectique juridique conduisant à appliquer la règle de droit à des faits établis, encore faut-il aborder l’observation des biais de l’IA de la manière la plus large possible. Ainsi est-il possible de constater que l’intelligence artificielle engendrera des discriminations du fait de biais entropiques mais également exogènes.

1. Des biais entropiques à l’origine de discrimination

De prime abord, les biais entropiques ont généralement comme origine des algorithmes et un code écrit par les développeurs. Ils peuvent également apparaître en raison du caractère « conservateur » intrinsèque de l’IA.

a. Biais cognitifs : les développeurs sont à l’origine de biais de l’IA

L’intelligence artificielle, du fait de sa conception humaine, pourra reproduire les préjugés15 de ses concepteurs et engendrer des biais dits « cognitifs ». Ces biais sont liés à la manière dont les algorithmes sont rédigés par les programmeurs. Ils représentent une forme de distorsion de la manière dont l’information est traitée par rapport à un comportement rationnel ou à la réalité.

Dans certains cas, le programmeur peut avoir suivi des modélisations populaires sans s’assurer de leur...

Pour consulter la suite, découvrez le livre suivant :
couv_DPEEJIA.png
60-signet.svg
En version papier
20-ecran_lettre.svg
En version numérique
41-logo_abonnement.svg
En illimité avec l'abonnement ENI
130-boutique.svg
Sur la boutique officielle ENI
Précédent
Introduction
Suivant
Un encadrement juridique à parfaire