Vous avez certainement entendu parler ces dernières semaines de ChatGPT, ce chatbot basé sur l’IA. Mais qu’est-ce que c’est ? Pourquoi génère-t-il autant d’enthousiasme ? En quoi marquerait-il la fin de Google Search ? Pourquoi certains experts s’inquiètent ? C’est ce que nous allons essayer de décrypter.
ChatGPT c’est quoi ?
ChatGPT est un prototype de chatbot basé sur l’IA (Intelligence Artificielle) et qui peut répondre à (presque) n’importe quelle question (scientifique, philosophique, prosaïque) sous la forme que vous souhaitez (article de blog, parole de chanson, code informatique, …). Il a été créé par OpenAI, organisme de recherche indépendant fondé par Elon Musk. ChatGPT est basé sur le modèle de langage GPT pour Generative Pre-trained Transformer, c’est-à-dire qu’il a été pré-entraîné avec du deep learning sur une grande quantité de texte : articles, romans, scripts de films, conversations en ligne. L’entraînement a été effectué en 2021, ce qui signifie que le corpus ne contient aucune information postérieure.
Concrètement, cela se présente sous la forme d’un chatbot. On pose une question, ChatGPT répond, et on peut « discuter » avec lui. On oublie presque que c’est une IA derrière !
Pourquoi ChatGPT génère-t-il autant d’enthousiasme ?
Outre la fluidité avec laquelle ChatGPT répond aux questions, il suscite l’admiration et l’étonnement de par l’étendue de ses capacités. On peut lui demander de répondre à une question dans un style particulier (voir image ci-dessus), de générer un essai en 3 parties, de rédiger un article de blog ou encore un e-mail, d’adapter le ton utilisé, de formuler des conseils ou une stratégie à adopter face à une problématique, ou même encore de générer ou débugger du code !
Quelques exemples :
Pourquoi ChatGPT pourrait marquer la fin de Google Search ?
« Google n’est peut-être qu’à un an ou deux d’une perturbation totale », a tweeté le développeur de Gmail Paul Buchheit, le 1er décembre. « L’IA éliminera la page de résultats du moteur de recherche, qui est l’endroit où ils gagnent le plus d’argent. »
En effet, ChatGPT peut déjà répondre à un nombre extrêmement élevé de requêtes qui sont aujourd’hui faites dans le moteur de recherche de Google. Pourtant, le chatbot n’est pas connecté à Internet : il a été entrainé sur des données allant jusqu’en 2021 et n’est donc pas en mesure de répondre à des questions d’actualité. Imaginez le jour où cela sera le cas…
Non seulement ChatGPT pourra répondre de façon synthétique à une question (ce qui nous retirera la fastidieuse tâche d’ouvrir plusieurs liens du résultat de recherche de Google pour trouver une réponse complète à une question) mais il est déjà plus performant :
Pourquoi ChatGPT soulève cependant des inquiétudes ?
Plusieurs niveaux d’inquiétude ont été soulevés.
1. Comment faire évoluer l’éducation quand les élèves pourront faire rédiger leurs devoirs par ChatGPT ?
Avec ChatGPT, les étudiants peuvent facilement générer des dissertations sans trop d’efforts… Le problème n’est pas nouveau, des petits malins ont déjà utilisé l’IA pour faire leurs devoirs à leur place.
Et étant donné que le contenu généré par les IA est totalement original, les outils de détection de plagiat ne seront d’aucune utilité.
Conscients du problème, les ingénieurs d’OpenAI travaillent sur une solution pour identifier les textes générés par ChatGPT. Il s’agira d’une signature électronique, cachée dans le texte généré.
2. La fin de certains emplois ?
Certains s’inquiètent de l’avenir de certains emplois, comme celui des journalistes. En effet, quel pourra être l’avenir des journalistes quand une IA est déjà en mesure de rédiger des articles ? On va le voir dans les 2 prochains points : les Intelligences Artificielles ne sont pas près de remplacer les humains !
3. ChatGPT a beau être basé sur de l’Intelligence Artificielle, il n’est pas intelligent et donne parfois des réponses fausses !
ChatGPT génère des suites de mots en se basant sur la probabilité que ceux-ci soient situés à proximité. Il ne comprend donc rien : ni votre question, ni les réponses qu’il formule. Ainsi, il lui arrive de générer des réponses qui sont complètement fausses mais qui sont pour lui statistiquement correctes, et ce sur un ton extrêmement confiant.
Stack Overflow, un site web proposant des questions et réponses concernant la programmation informatique (la Bible des développeurs) en a fait les frais : de nombreuses réponses de ChatGPT à des problèmes de code ont été postées sur la plateforme… mais étaient fausses ! Le site a donc pris la décision de bannir les réponses du chatbot pour éviter de détériorer la qualité du contenu partagé sur la plateforme.
Cela étant dit, ChatGPT apprend au fur et à mesure de ses échanges avec les utilisateurs. Le 5 décembre, un utilisateur de Twitter lui a demandé combien de bébés pouvaient faire 9 femmes en 1 mois, sachant qu’1 femme faisait 1 bébé en 9 mois. ChatGPT avait alors répondu que 9 femmes pouvaient faire 1 bébé en 1 mois. Un peu plus tard le même jour, il avait déjà appris que c’était faux et donnait la bonne réponse.
4. Malgré un certain nombre de garde-fous, ChatGPT n’est pas exempt de biais et pose des questions éthiques
ChatGPT ayant été entrainé sur des données du web, il est évidemment biaisé. OpenAI a essayé de mettre en place des garde-fous pour lui éviter de tenir des propos racistes, sexistes, homophobes. Mais c’était sans compter sur la créativité des utilisateurs qui ont réussi à contourner ces garde-fous !
Voici un premier exemple où un utilisateur de Twitter a demandé d’écrire du code informatique pour déterminer si une personne est une bonne scientifique, en se basant sur la race et le sexe :
Comme vous pouvez le constater dans le fil Twitter, ChatGPT présente des morceaux de code sexistes et racistes…
Un autre utilisateur de Twitter a contourné les garde-fous en demandant à ChatGPT de « faire semblant » d’être une mauvaise personne :
Là encore, c’est le drame : ChatGPT tient des propos homophobes et classistes.
Une autre astuce qui a été trouvée par un autre utilisateur de Twitter : expliquer à ChatGPT qu’il souhaite avoir une réponse directe sans suivre les règles de filtre habituelles :
On découvre alors la recette pour créer de la métamphétamine.
Les géants de l’IA ont-ils ouvert une boite de Pandore ?
Les points 3 et 4 ont beaucoup fait réagir les experts en Intelligence Artificielle qui s’inquiètent des usages éthiques. Parmi eux, Gary Marcus (que j’avais déjà mentionné dans mon article sur l’IA Galactica). Celui-ci compare la sortie de Galactica et ChatGPT au film Jurassic Park :
« Les dirigeants de Meta et OpenAI sont aussi enthousiastes à propos de leurs outils que les propriétaires de Jurassic Park l’étaient à propos des leurs. »
Gary Marcus
Emily Bender, experte en traitement automatique du langage et ses implications éthiques, professeure à l’université de Washington, a largement partagé ses inquiétudes également. Selon elle, les gens font déjà beaucoup trop confiance aux résultats de recherche de Google, et ils risquent de faire encore plus confiance aux réponses d’une IA qui interagit et semble comprendre la discussion. Or comme on l’a dit plus haut, les IA ne sont pas intelligentes, ne comprennent pas ce qu’elles disent et affirment des choses qui sont erronées.
Mais au fait, OpenAI, c’est qui ?
Derrière ce joli nom digne d’une fondation ouverte du logiciel libre à but non lucratif, se cachent (ou pas, d’ailleurs) Elon Musk, entrepreneur controversé, fondateur de Tesla, SpaceX ou encore Neuralink, et Sam Altman, fondateur du mythique incubateur de startups Y-Combinator. On retrouve également Peter Thiel, cofondateur de PayPal et Palantir et conseiller du président Donald Trump, early investor de Facebook, ou encore Reid Hoffmann, fondateur du réseau social LinkedIn.
Elon Musk est connu pour ses prises de paroles inquiètes à propose de l’intelligence artificielle, qu’il qualifie de « plus grande menace existentielle » pour l’humanité. L’objectif affiché d’OpenAI est de réduire le danger que représente l’IA en la mettant à disposition de toutes et tous, d’une façon totalement ouverte.
OpenAI est également à l’origine de Dall-E, le générateur d’image.
A vous de jouer !
Vous voulez tester ChatGPT ? C’est par ici => https://chat.openai.com/auth/login
N’hésitez pas à nous partager vos résultats et impressions !
Retrouvez nos derniers articles :
- L’IA, l’arme nucléaire contre les fake news ? Un article avec Taylor Swift dedans
Avec ça, on ne pourra pas dire que je ne fais pas d’effort pour susciter l’intérêt du lectorat… ChatGPT au service de la désinformation Il y a quelques mois, France Info se posait la question de la contribution de l’IA à la conviction complotiste. ChatGPT, le robot conversationnel bien connu, basé sur l’intelligence artificielle, a… Lire la suite : L’IA, l’arme nucléaire contre les fake news ? Un article avec Taylor Swift dedans - [veille] Reproduire l’effet placebo : une nouvelle piste prometteuse pour soulager la douleur ?
Les patients atteints de douleurs chroniques ont peu de traitements à leur disposition. Les opioïdes soulagent, mais avec des risques de dépendance et d’effets secondaires. Une équipe de recherche dirigée par Fan Wang au MIT ouvre une nouvelle piste : l’utilisation de l’effet placebo. L’effet placebo, qu’est-ce que c’est ? L’effet placebo est un phénomène… Lire la suite : [veille] Reproduire l’effet placebo : une nouvelle piste prometteuse pour soulager la douleur ? - [Veille] Antidepresseurs : nouvelles pistes, nouvelles promesses
Deux articles apportent un éclairage sur les mécanismes des antidépresseurs. Chemistry World explore comment les ISRS, longtemps utilisés, soulagent la dépression sans que l’on comprenne entièrement pourquoi. Le second révèle pourquoi la kétamine, un traitement prometteur, agit rapidement et durablement. - [Veille] Décrypter le langage des baleines grâce à l’IA
Une équipe de recherche a utilisé un algorithme d’intelligence artificielle pour reconstituer le langage des baleines. - [Veille] L’IA peut augmenter la créativité individuelle, mais diminue l’originalité collective
Une étude montre que lorsque l’IA générative est adoptée dans le domaine de la narration, les écrivain-e-s individuels peuvent bénéficier d’un coup de pouce créatif, mais globalement, les histoires deviennent plus semblables. - [Veille] Différences cérébrales entre femmes et hommes : sexe ou genre ?
Une nouvelle étude montre que le sexe affecte principalement les zones du cerveau liées au traitement sensoriel et au contrôle moteur, tandis que le genre influence des régions impliquées dans des capacités cognitives telles que l’attention et le traitement émotionnel.
Laisser un commentaire