Blog ENI : Toute la veille numérique !
-25€ dès 75€ sur les livres en ligne, vidéos... avec le code FUSEE25. J'en profite !
Accès illimité 24h/24 à tous nos livres & vidéos ! 
Découvrez la Bibliothèque Numérique ENI. Cliquez ici
  1. Livres et vidéos
  2. Intelligence artificielle
  3. IA et emploi
Extrait - Intelligence artificielle Enjeux éthiques et juridiques
Extraits du livre
Intelligence artificielle Enjeux éthiques et juridiques Revenir à la page d'achat du livre

IA et emploi

Introduction

Qu’il s’agisse de scanner des CV ou d’augmenter un salaire, l’IA peut, par sa puissance d’analyse, constituer un véritable outil d’aide à la gestion des ressources humaines.

Or, c’est justement lorsqu’elle assiste les entreprises dans la prise de décision que l’IA crée les risques les plus élevés.

En effet, en excluant un candidat d’un processus de recrutement ou en déterminant le montant d’une prime, l’IA prend des décisions susceptibles d’avoir des conséquences juridiques importantes tant sur les individus que sur les entreprises utilisatrices.

Classée parmi les IA à haut risque par la Commission Européenne1, l’IA appliquée à l’emploi doit donc faire l’objet d’une gestion efficace des risques tant par les éditeurs de logiciels que par les entreprises utilisatrices.

État des lieux

Dans le monde du travail, l’IA est utilisée aussi bien lors du processus de recrutement que dans le cadre de l’exécution du contrat de travail.

1. IA et recrutement

Appliquée au recrutement, l’IA répond à trois besoins majeurs.  

D’une part, l’IA peut servir à optimiser les offres d’emploi postées par les entreprises.

En s’entraînant sur la base de l’ensemble des annonces publiées, l’IA est capable d’adapter le langage de l’offre d’emploi au profil recherché.

Ce faisant, l’IA permet aux recruteurs d’économiser le temps de rédaction de l’annonce et, par là même, de se concentrer sur les tâches qui ne pourront pas être déléguées à l’IA.

C’est toutefois lorsqu’elle scanne les candidatures que l’IA crée le plus de risques pour les entreprises.

En effet, lorsque l’IA a été entraînée sur un jeu de données qui n’a pas été suffisamment éprouvé ou qu’elle présente, de par sa programmation même, des biais algorithmiques, elle est susceptible d’exclure des candidats pourtant qualifiés sur la base de critères discriminants.

À titre d’exemple, le scanneur de candidatures d’Amazon...

Recommandations

Dans le monde du travail, le recours à l’IA nécessite la mise en place d’un système efficace de gestion des risques.

1. Anticiper l’application du règlement européen sur l’intelligence artificielle

L’annexe 2 du projet de Règlement européen sur l’intelligence artificielle classe le domaine de l’emploi dans les secteurs parmi lesquels l’IA présente un niveau de risque élevé.

Appliquée à l’emploi, l’IA pourrait donc être soumise à un régime juridique contraignant imposant notamment aux éditeurs de solution de mettre en place un système efficace de gestion du risque.

Ce système devra notamment permettre :

  • d’identifier les risques9 ;

  • de tester les jeux de données sur lesquels l’IA va s’entraîner ;

  • de mettre en place une documentation technique10 ;

  • de mettre en place un système de logs permettant de tracer les décisions prises par la machine11 ;

  • de garantir la transparence en informant les personnes concernées12 ;

  • de présenter des garanties suffisantes en termes de robustesse, de pertinence et de cybersécurité13.

Afin d’anticiper l’entrée en vigueur de ce régime, les éditeurs d’IA sont invités, a minima, à se doter d’une documentation...

Notes

1 Projet de règlement européen sur l’IA du 21 avril 2021, Annexe 2

2 https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G

3 Recommandation relative à la collecte et au traitement d’informations nominatives lors d’opérations de recrutement, délibération 02-017 du 21 mars 2002

4 Art. L1132-1 du Code du travail

5 https://www.vox.com/recode/2019/12/12/20993665/artificial-intelligence-ai-job-screen

6 https://www.huffingtonpost.fr/2018/02/02/amazon-depose-le-brevet-dun-bracelet-qui-surveille-ses-employes-au-travail_a_23351728/

7 "Comme un patron, Uber dirige, contrôle et sanctionne", G. Haas, M. Torelli, 6 mars 2020

8 https://www.workforcebulletin.com/2021/03/11/ai-based-compensation-management-and-bias-can-ai-close-the-pay-gap/

9Art.6

10 Article 11

11 Article 12

12 Article 13

13 Article 15

14 Art. L.2312-38 du Code du travail

15 Art. L.2312-38 du Code du travail