Avec ça, on ne pourra pas dire que je ne fais pas d’effort pour susciter l’intérêt du lectorat…

ChatGPT au service de la désinformation

Il y a quelques mois, France Info se posait la question de la contribution de l’IA à la conviction complotiste. ChatGPT, le robot conversationnel bien connu, basé sur l’intelligence artificielle, a rapidement atteint un million d’utilisateurs après son lancement. Bien qu’efficace pour générer du contenu, il peut relayer des informations fausses, notamment dans des contextes complotistes. D’autres outils d’IA, comme Dall-E ou les deepfakes, posent également des risques pour la désinformation visuelle. Cela soulève des préoccupations quant à l’impact futur de ces technologies sur notre perception de la réalité.

• Le podcast France Info en francais : ChatGPT: L’intelligence artificielle au service du complotisme ? (2023, January 24). franceinfo. https://www.radiofrance.fr/franceinfo/podcasts/complorama/chatgpt-l-intelligence-artificielle-au-service-du-complotisme-1527533

À titre d’exemple récent, on pourra citer les pathétiques publications de Donald Trump relayant de fausses photos et vidéos de Taylor Swift, qui a pourtant clairement indiqué voter pour Harris.

Des politiciens américains demandent donc de nouvelles lois pour interdire la création de deepfakes après que ces photos falsifiées, et d’autres, ont été massivement diffusées en ligne. L’une d’entre elles a été vue 47 millions de fois avant d’être retirée ! Les inquiétudes concernant l’IA augmentent alors que des élections mondiales approchent, et un faux appel automatisé imitant le président Biden a récemment déclenché une enquête.

• L’article en anglais sur la BBC : Taylor Swift deepfakes spark calls in Congress for new legislation. (2024, January 26). https://www.bbc.com/news/technology-68110476

De la menace à l’espoir : Comment l’IA peut AUSSI combattre les théories complotistes

Mais les choses ne sont pas si simples ! France Inter avait eu le nez creux en mars 2024, en relevant une autre prépublication, qui est tout récemment devenue une superbe couverture du magazine Science, ce 13 septembre. Une étude menée par trois chercheurs américains (Costello, Pennycook et Rand) montre qu’un robot conversationnel basé sur ChatGPT peut réduire l’adhésion aux théories complotistes. En interagissant avec 2 000 personnes croyant à ces théories, le robot a formulé des contre-arguments en trois questions-réponses, ce qui a diminué la croyance de 20% des participants. Ces résultatssont durables : deux mois plus tard, les participants n’étaient pas revenus à leurs anciennes croyances. Cela souligne le potentiel de l’IA à surpasser le fact-checking traditionnel en matière de persuasion.

• Le podcast en francais sur France Inter: L’IA est-elle capable de faire baisser la croyance dans certaines théories complotistes ? (2024, April 5). France Inter. https://www.radiofrance.fr/franceinter/podcasts/l-info-de-france-inter/l-info-de-france-inter-3963885
• L’edito grand public dans Science, en anglais : Bago, B., & Bonnefon, J.-F. (2024). Generative AI as a tool for truth. Science, 385(6714), 1164–1165. https://doi.org/10.1126/science.ads0433
• L’etude scientifique dans Science, en anglais : Costello, T. H., Pennycook, G., & Rand, D. G. (2024). Durably reducing conspiracy beliefs through dialogues with AI. Science, 385(6714), eadq1814. https://doi.org/10.1126/science.adq1814
  

De l’ambivalence de la technologie

Intéressant : l’outil IA peut donc constituer à la fois une des pires menaces pour la démocratie, et un espoir pour la préserver (aux côtés de Taylor Swift) !

Ce constat d’ambivalence technologique m’évoque évidemment le sujet de l’énergie nucléaire. Cette dernière est souvent perçue de manière négative en raison de son potentiel destructeur, notamment avec les armes nucléaires et les catastrophes comme Tchernobyl ou Fukushima. Cependant, cette même technologie est également utilisée de manière bénéfique pour produire de l’électricité de manière relativement propre et à grande échelle, contribuant à la réduction des émissions de carbone. M’interrogeant a ce sujet, je suis tombee sur les ecrits de Jacques Ellul (1912-1994). Professeur d’histoire du droit, surtout connu comme penseur de la technique et de l’aliénation au XXe siècle, il est l’auteur d’une soixantaine de livres (la plupart traduits à l’étranger, notamment aux États-Unis et en Corée du Sud) ainsi que de plusieurs centaines d’articles. Ce sont ses lectures de Karl Marx (auquel il a consacré un enseignement à l’IEP de Bordeaux pendant plus de 30 ans) qui l’ont amené à réfléchir au productivisme puis à la technique.

« A mesure que nous analysions l’importance de la technique dans la société, nous nous sommes rendu compte qu’elle devenait progressivement le facteur le plus décisif pour expliquer l’ensemble des phénomènes de notre temps, et qu’elle pouvait, comme élément d’explication, jouer le rôle que le capital avait joué dans l’interprétation de Marx au XIX^e siècle. »

Ellul, J., Hourcade, M., Jézéquel, J.-P., Paul, G., & Vanderburg, W. H. (2008). Ellul par lui-même. la Table ronde.

Plus que jamais, la vision de Jacques Ellul dans les années 60 résonne avec force aujourd’hui, à l’heure où l’IA générative bouleverse nos sociétés et devient, à son tour, ce facteur décisif qui façonne nos structures sociales, économiques et culturelles, tout comme le capital l’avait fait au XIXe siècle.

• Une tribune de Jacques Ellul sur l’ambivalence de la technologie : Ellul, J. (1965). Réflexions sur l’ambivalence du progrès technique. La Revue Administrative, 18(106), 380–391. https://www.jstor.org/stable/40777750
• Et un petit resume sur ces ecrits : IRESMO. (2020, December 28). L’ambivalence de la technique. IRESMO- Recherche et formation sur les mouvements sociaux. http://iresmo.jimdofree.com/2020/12/28/l-ambivalence-de-la-technique/
  

---

C’est quoi, une prépublication ?
Dans cet article, j’ai utilise le mot « prépublication« , qui fait partie du vocabulaire scientifique quotidien, mais pas tellement du vocabulaire courant. Une prépublication scientifique, ou « preprint » en anglais, est une version préliminaire d’un article scientifique qui est mise en ligne avant d’avoir été évaluée par des pairs et publiée dans une revue académique. Les chercheurs utilisent les prépublications pour diffuser rapidement leurs résultats à la communauté scientifique et obtenir des retours avant le processus de révision formelle.