« Jouer au chat GPT derrière sa souris » : un jeu dangereux ?

« Peux-tu me faire un résumé de ce texte ? » est la question la plus fréquemment posée à Chat GPT. Graal des étudiants, cet algorithme est LA solution pour obtenir un travail qualitatif en un temps record. Intraçable, s’appuyant sur une base de données colossale, Chat GPT a su séduire les curieux, et les plus paresseux. « [Je] pouvais mettre jusqu’à 4 heures avant de trouver un plan de dissertation, [maintenant je n’y] consacre que quelques minutes » confie un étudiant au Figaro. Entraîné pour résumer ou traduire des textes, rédiger des dissertations, résoudre un problème de maths, écrire une lettre de motivation ou simplement entretenir une conversation, le logiciel monopolise l’attention de tous. Le domaine de l’éducation n’est pas le seul à bénéficier (ou pâtir, selon le statut) de l’utilisation permanente de Chat GPT. Sur Twitter, « #Chat GPT » est même devenu une tendance mondiale. Une utilisatrice a tweeté qu’elle avait réussi à programmer l’algorithme pour parler avec son « elle » enfant, à partir de récits écrits dans ses journaux intimes. Le logiciel est capable de tout, en témoignent ce rapport de conversation sur la déforestation en Amazonie ou la rédaction de ces poèmes.

Chat GPT est utilisé pour des missions de codage, de marketing, de synthèses, etc. Il pourrait être le nouvel outil indispensable des programmeurs informatiques, des journalistes, des assistants juridiques, des enseignants, des analystes, des comptables et de tant d’autres professions. Ses capacités rédactionnelles, conversationnelles et intellectuelles enregistrées sommairement lui ouvrent de nombreux marchés : financier, éducatif, professionnel…

La plateforme peut créer des pages HTML, rédiger des articles, écrire des chansons ou encore des histoires. Les plus astucieux sont parvenus à bâtir un business grâce à Chat GPT. Automatisation des algorithmes de trading, revente de scénarios à des entreprises comme YouTube ou Amazon, création de sites web sont autant d’actions réalisables par Chat GPT, génératrices de revenus.

La rapidité à laquelle Chat GPT s’exécute étonne, fournissant des réponses pertinentes et uniques. Une même question posée par des utilisateurs distincts produira des réponses syntaxiquement différentes. La construction et le raisonnement logique de la réponse sera néanmoins similaire, permettant aux enseignants, par exemple, d’identifier les copies réalisées à l’aide du logiciel. Autres failles du système : les contenus produits par la plateforme sont rarement sourcés, et ne sont qu’une compilation de données recueillies par un algorithme. En ce sens, le ministre délégué chargé de la Transition numérique et des Télécommunications l’a qualifié de « perroquet approximatif », affirmant que l’application comportait des « risques et des promesses ».

L’application semble finalement avoir été victime de son succès. Avec plus d’un million de comptes enregistrés en janvier 2023, Chat GPT fait la une de tous les journaux. Bien que le logiciel ait séduit un large nombre d’utilisateurs, il représente pour beaucoup une menace. Dans le cadre éducatif, des mesures radicales ont été mises en place pour contrer la trop fréquente utilisation du programme. Justifiant de la question de la triche, de la capacité à réfléchir par soi-même ou de l’honnêteté des étudiants, des universités comme Sciences Po Paris ont interdit l’utilisation de Chat GPT, sous peine d’être exclu de l’établissement, voire de l’enseignement supérieur.

De nombreux auteurs et écrivains se sont également prononcés et positionnés quant à l’utilisation de l’IA. Conscients de la capacité du programme à fournir des informations et des contenus, les métiers de l’édition, de l’art ou encore de la rédaction craignent de voir leurs emplois peu à peu remplacés par les systèmes d’intelligence artificielle. De même, la commercialisation des écrits de Chat GPT inquiète les auteurs et les maisons d’édition. Les métiers de journalistes, de juristes, d’analystes ou encore de traders sont aussi dans le viseur de l’intelligence artificielle. Capable de créer des algorithmes, de traiter des données, de coder des systèmes ou bien de synthétiser des informations, l’IA serait en mesure, à terme, de remplacer, partiellement ou totalement, l’intervention humaine dans de nombreux secteurs d’activités.

Les menaces les plus alarmantes introduites par le logiciel sont de l’ordre de la cybersécurité. Les cybercriminels se servent de la plateforme pour créer des malware (virus informatiques malveillants) et voler, crypter ou supprimer des données sans le consentement des utilisateurs. Hackers, experts en cybercriminalité, arnaqueurs se sont rapidement emparés de ce nouveau « joujou » pour parvenir à leurs fins, levant en quelques clics les barrières éthiques et sécuritaires instituées par OpenAI. Même si la majeure partie des utilisateurs n’a pas de pareilles ambitions, « jouer au Chat GPT derrière sa souris » peut être un jeu dangereux.

« Formidable outil » pour les uns, « énorme danger » pour les autres, Chat GPT suscite le débat. Quels que soient les secteurs concernés, les prises de position affluent sur les réseaux sociaux et les médias. Dans le milieu éducatif d’abord, qui semble être la première victime du logiciel, deux camps se distinguent : d’un côté ceux qui y voient l’opportunité d’apprendre à maîtriser l’IA, de l’autre ceux qui bannissent et condamnent le recours à l’intelligence artificielle. Pap Ndiaye, ministre de l’Éducation nationale a déclaré au micro de France Inter que la question de l’IA « est une question qui préoccupe […] mais il est clair que nous avons […] à intégrer cette nouvelle donnée dans le travail des élèves et des professeurs ». Dans l’enseignement supérieur, les avis sont plus tranchés : alors que Sciences Po Paris en a interdit l’utilisation, les universités s’inquiètent de devoir prendre des précautions : « examens en salle plutôt qu’en ligne, wifi coupé, accès interdit à l’OpenAI », indique un professeur de l’EM Lyon. Si les avis divergent, pour tous une chose est sûre : l’intelligence artificielle ne remplacera pas l’homme. Du moins, pas tout de suite.

L’IA est un concept dont l’utilisation exponentielle crée de la concurrence. Bien qu’OpenAI soit en partie financée et détenue par le milliardaire Elon Musk, celui-ci affirme vouloir développer son propre agent conversationnel, un programme rival de Chat GPT. Mark Zuckerberg PDG de Meta et Andy Jassy, directeur d’Amazon veulent également se prêter au jeu. Chat GPT pourrait finalement n’avoir été que le premier ChatBot d’une longue série. L’enjeu concurrentiel lié à l’IA a engendré une véritable « course à l’armement technologique ». Si Chat GPT semble contrôlable, pour l’instant, il n’est pas sûr que ses pairs le soient aussi. Déjà, des utilisateurs se sont plaints de certaines réponses apportées par Chat GPT : contenu woke, raciste, violent… La désillusion remplace peu à peu l’euphorie.

Le caractère innovant de l’IA a d’abord séduit un grand nombre de personnes. Finalement, les logiciels d’intelligence artificielle dévoilent d’importantes failles qui ne sont pas toujours maîtrisables. D’une simple rédaction de dissertation, au vol de données personnelles, Chat GPT est capable de tout. Bien que ce type de concept devienne probablement monnaie courante au cours des prochaines décennies, il présente tout de même de graves menaces éthiques.