Le biais dans le domaine de la culture

Introduction

Après avoir présenté les IA génératives, leur fonctionnement et leurs usages possibles dans le domaine culturel, il est nécessaire d’examiner l’un de leurs risques les plus importants : les biais.

L’intelligence artificielle est désormais présente dans de nombreux usages professionnels et personnels, et on lui confie de plus en plus de tâches d’analyse, de recommandation, de production ou d’aide à la décision. Cette présence croissante peut donner une impression d’objectivité, parce que les systèmes produisent des résultats rapidement, avec assurance et à partir de traitements automatisés. Pourtant, ils apprennent à partir de données préexistantes qui peuvent déjà contenir des déséquilibres, des omissions ou des stéréotypes.

Dans le domaine de la culture, ces biais sont particulièrement sensibles, car ils peuvent influencer la manière dont les œuvres, les artistes et les publics sont représentés. Ils peuvent aussi orienter la recommandation de contenus, la visibilité des œuvres, la médiation, la conservation ou la création de nouveaux contenus générés par IA.

Un exemple concret de biais introduit par l’IA dans le secteur culturel est le blog publié...

Qu’appelle-t-on « biais » ?

Le biais qui vient du latin populaire biaxius signifie qui a deux axes, c’est-à-dire qu’il peut avoir deux sens. Dans diverses disciplines, un biais est une erreur systématique ou une simplification abusive.

Les systèmes d’IA ne créent pas nécessairement des biais nouveaux : ils peuvent aussi reproduire des biais humains déjà présents dans les données, les catégories utilisées, les choix de conception ou les usages. Lorsqu’un modèle apprend à partir d’informations imparfaites, incomplètes ou marquées par des préjugés, il risque de produire à son tour des résultats biaisés.

Parmi les nombreux biais qui existent, le biais cognitif et le biais algorithmique sont les deux qui nous intéressent dans le cadre des intelligences artificielles et ce sont ceux que nous allons considérer dans la suite de ce chapitre.

Culture et IA : formes de biais et conséquences

Prévenir, détecter et corriger les biais

Quel que soit le domaine, la prévention des biais nécessite une approche proactive de la recherche de ceux-ci. Réagir face à des problèmes plus ou moins graves engendrés par des biais est essentiel, voire obligatoire, mais prévenir ceux-ci est plus efficace et beaucoup moins impactant pour l’organisation.

Nous l’avons vu, en intelligence artificielle, où l’apprentissage automatique des machines est fréquent, les problèmes engendrés par les biais de code ou de données peuvent ne pas être vus facilement et générer des risques et des conséquences importants pour l’organisme responsable.

Méthode de prévention des biais

La méthode que j’ai élaborée et qui est décrite en détail dans mon ouvrage  Intelligence artificielle - Impact sur les entreprises et le business (2^e édition) s’appuie sur trois phases séquentielles majeures dans la prévention des biais :

Les trois phases de la prévention des biais

Ces trois phases n’ont pas la même fréquence d’exécution : la phase 1 sera exécutée au démarrage du projet et à chaque fois qu’un des composants établis à cette étape (spécifications, sources des données, données, variables) est susceptible de changer ; la phase 2 sera exécutée chaque fois que le modèle devra être modifié, la détection étant faite lors de l’exécution de l’étape 3 ;...

En conclusion

Comme nous l’avons vu dans ce chapitre, chez l’humain, les biais sont naturels et même s’ils ne sont pas nécessairement négatifs, l’humain a des préjugés et fait des raccourcis qui mènent à des raisonnements incomplets qui peuvent générer des problèmes plus ou moins graves.

Dans le domaine de la culture et de l’art, les biais représentent un défi majeur qui va bien au-delà du problème technique. Ils peuvent influencer la réputation des professionnels, la création et la gestion des œuvres, l’accessibilité à la culture ou la qualité des informations et des recommandations proposées au public.

En adoptant une approche proactive pour identifier et remédier aux biais, nous pouvons progresser vers des systèmes plus justes, plus humains, plus accessibles et plus efficaces. C’est essentiel pour promouvoir un accès à la culture et à l’art équitable pour tous les individus, indépendamment de leur identité ou de leur contexte social.

Comme nous le verrons dans la suite de cet ouvrage, cela nécessite un engagement continu des organisations et la sensibilisation des acteurs de la culture et du public à l’utilisation de l’IA.

Le chapitre suivant élargira cette réflexion en abordant...

Sources et références