Blog ENI : Toute la veille numérique !
Dernière chance (fin le 29/02) : -25€ dès 75€ sur les livres en ligne, vidéos... code FUSEE25. J'en profite !
Accès illimité 24h/24 à tous nos livres & vidéos ! 
Découvrez la Bibliothèque Numérique ENI. Cliquez ici

La face sombre de ChatGPT

Introduction

L’arrivée de ChatGPT suscite bien des interrogations. Peut-on détecter un contenu généré par cette IA ? ChatGPT menace-t-il les emplois ? Faut-il faire voter des lois pour freiner ou compenser son usage ?

Notre civilisation est régulièrement marquée par quelques innovations qui induisent des changements majeurs dans notre mode de vie. L’arrivée de l’automobile, du cinéma, de la radio, de la télévision ou d’Internet a pareillement entraîné une mutation de nos existences.

Prenons l’exemple de la radio : si la musique populaire et le jazz en ont été les premiers bénéficiaires, les hommes politiques américains en ont rapidement perçu le potentiel. En 1932, le candidat Roosevelt, qui avait contre lui les grands patrons, la majeure partie de la presse et son infirmité, a usé de son talent d’éloquence pour toucher l’homme du peuple et a été élu triomphalement. Moins de trente ans plus tard, la télévision a permis au fringant John F. Kennedy de l’emporter sur son concurrent, le disgrâcieux Richard Nixon, qui passait mal à l’écran.

Que dire de l’avènement du Web ? Vers 1995, lorsque ce média est apparu, les utopistes y sont allés de leur couplet : Internet...

Les talons d’Achille de ChatGPT

ChatGPT n’est pas sans soulever maintes questions :

  • Peut-on se fier à un outil qui n’est pas fiable à 100 % et qui pourtant, au contraire de Wikipédia, ne cite jamais ses sources ?

  • Qui voudrait payer un prestataire qui vous remet un texte qu’il a fait rédiger par ChatGPT ?

  • Comment éviter que des étudiants ne choisissent la solution paresseuse de faire rédiger leurs devoirs par cette IA ?

  • ChatGPT représente-t-il une menace sur nos emplois ?

  • ChatGPT préfigure-t-il une révolution sociétale à même de creuser les écarts entre riches et pauvres ?

Les appels à freiner l’essor de l’IA

Signe qui ne trompe point : les débats relatifs aux conséquences d’une intrusion de l’Intelligence Artificielle dans nos sociétés se multiplient à la télévision comme ailleurs. 

Le 29 mars 2023, une lettre ouverte a été publiée par plusieurs magnats de la technologie, dont Elon Musk, de hauts cadres de Google comme d’Apple, avec ces mots :

« Nous appelons tous les laboratoires d’IA à suspendre immédiatement, pendant au moins six mois, l’apprentissage des systèmes d’IA plus puissants que GPT-4. Cette pause doit être publique et vérifiable...

Usages contestables

images/01RB05.png

Il a fallu moins de deux mois pour qu’apparaisse une application comme AI-Buddy qui promet de générer des argumentaires de ventes, des textes de marketing, des images ou du code informatique à partir de ChatGPT. Avec un slogan pour le moins déplaisant : "dites adieu aux rédacteurs et aux designers graphiques coûteux". © AI Buddy

Quelques jours après l’apparition de ChatGPT, si l’on tapait ce terme sur YouTube, les principales vidéos portaient sur ce thème : comment gagner de l’argent en vendant des contenus générés par ChatGPT. Eh oui… Des petits malins avaient flairé là une jolie source de revenus faciles, ignorant ou feignant d’ignorer que leur trouvaille serait rapidement connue de tous.

En parallèle, des applications exploitant ouvertement le potentiel de ChatGPT et outils similaires ont fleuri, proposant de créer du contenu marketing, des posts TikTok ou autres. Certaines annonces ont de quoi susciter l’écœurement, notamment celles qui clament que « vous n’aurez plus besoin de payer des rédacteurs ! » Ni plus ni moins.

Il fallait s’y attendre. ChatGPT peut être mis à profit à des fins peu honorables et certains se sont empressés de l’employer ainsi. Certains l’ont mis à...

Comment reconnaître un contenu généré par ChatGPT ?

Est-il possible d’identifier les contenus générés par ChatGPT ? Si, en tant que professeur, directeur de publication, vous soupçonnez des élèves ou des contributeurs d’avoir utilisé ChatGPT, quels indices pourraient vous mettre sur la voie ?

  • Si un grand nombre d’élèves soumettent des exposés présentés sur le même modèle - quand bien même ils auraient modifié certains mots ou phrases, il y a de quoi suspecter l’usage d’une IA telle que ChatGPT.

  • Les raisonnements employés par ChatGPT sont souvent les mêmes. Un professeur qui corrige des copies pourra être alerté par cette similarité d’argumentaire.

  • Comme la base de connaissance de ChatGPT s’arrête à 2021, un texte faisant référence à des événements survenus plus tard sera probablement incorrect.

  • La rédaction en mode ChatGPT est habituellement dépourvue d’originalité et manque singulièrement de personnalité. La situation s’est quelque peu améliorée avec GPT-4 mais reste fort perfectible.

  • ChatGPT ne fait pas de faute d’orthographe. Si vous employez un rédacteur habituellement faible sur ce point et qu’il remet un texte sans aucune...

Pourquoi ne faut-il pas se fier aveuglément aux réponses de ChatGPT ?

Des erreurs dans ses réponses

ChatGPT est loin d’être infaillible et ses réponses peuvent comporter de nombreuses erreurs. Certes, il apparaît toutefois que ChatGPT les corrige au fil du temps.

Ainsi, début janvier 2023, lors d’une question sur Descartes, il avait prétendu que ce philosophe avait vécu en Amérique du Sud, ce qui n’est pas exact. Un mois plus tard, il n’affichait plus cette erreur. Et si nous insistions spécifiquement sur ce point, il affirmait que non, Descartes n’y a pas vécu. Parfois, l’erreur est réellement grossière comme lorsqu’on lui demande de résumer un site web et qu’il commet des bévues flagrantes. Elles laissent à penser que ChatGPT ne cherche pas toujours à analyser les pages web qui lui sont proposées et se contente de produire un melting pot de ce qu’il a engrangé dans sa réserve de données.

ChatGPT ne cite pas ses sources

Le plus grand reproche que l’on puisse faire à ChatGPT est qu’il prodigue des réponses sans assumer une quelconque responsabilité quant à l’origine de ses informations. La différence est patente par rapport à une encyclopédie communautaire comme Wikipédia qui, à défaut d’être irréprochable, prend un malin plaisir à citer ses sources et à réclamer à ses auteurs qu’ils apportent la preuve de ce qu’ils avancent. Parfois, une information de Wikipédia sera jugée douteuse mais...

ChatGPT menace-t-il nos emplois ?

Entre le 27 décembre 2022 et le 9 janvier 2023, Sortlist, une société composée d’experts en marketing, a interrogé 250 employés et 250 employeurs dans six pays :

  • Royaume-Uni,

  • Belgique,

  • Allemagne,

  • Espagne,

  • Pays-Bas

  • France.

Objectif : découvrir comment ils perçoivent l’effet de ChatGPT sur leur travail.

Le verdict a été clair. 21 % des employés sondés estiment que le risque majeur est que cet outil puisse remplacer leur emploi - dont 19 % en France. Le pourcentage est particulièrement élevé dans l’éducation, où ils sont 31 % à craindre des suppressions de postes.

Seulement voilà : la perception est similaire chez un grand nombre d’employeurs. Car la même enquête fait ressortir que 26 % de ceux qui ont été interrogés reconnaissent qu’ils envisagent de supprimer des emplois à cause de ChatGPT et notamment dans le secteur des logiciels et de la technologie.

Une autre enquête, menée cette fois-ci par Reambuilders.com auprès de 1 000 entreprises, a livré un verdict pour le moins inquiétant : la moitié d’entre elles ont reconnu qu’elles envisageaient d’un bon œil l’usage de cette Intelligence Artificielle et qu’elle pourrait aisément remplacer certains salariés. Pire, certaines avaient déjà sauté le pas.

Jeff McMillan, l’un des dirigeants de la banque américaine Morgan Stanley, a annoncé que cet établissement comptait utiliser GPT-4 (la nouvelle version de l’outil - voir chapitre Mieux exploiter ChatGPT), car cet outil permettait "d’avoir toutes les connaissances de la personne la plus qualifiée en gestion de fortune - instantanément".

De même, lors d’une réunion à Davos...

Où se situe l’essentiel de la menace ?

En réalité, ChatGPT et les outils du même type devraient avant tout menacer les professions reposant sur des séquences d’action ultra codifiées et répétitives, et ne nécessitant pas d’initiatives particulières. Un peu comme les bras articulés qui effectuent la peinture ou la soudure sur les chaînes d’assemblage automobile ont remplacé les ouvriers qui étaient affectés à cette pénible tâche. Une même mutation devrait se produire dans les métiers extrêmement codifiés et somme toute peu attrayants.

Ainsi, dans le domaine de la production de contenu, la création de l’immense majorité des communiqués de presse repose sur un modèle tellement standardisé qu’il serait aisé de confier la tâche à ChatGPT - et plusieurs agences m’ont confié qu’elles y avaient recours dès à présent.

L’IA va-t-elle créer de nouveaux emplois ?

Fort bien. Toutefois, quel sera le solde d’une telle mutation ? L’IA va-t-elle engendrer plus d’emplois, plus de richesse redistribuée qu’elle n’en détruit ? On aimerait y croire, mais sans grande conviction.

Certes, une étude du cabinet Deloitte publiée en 2015...