Qui n’a jamais demandé un conseil à ChatGPT pour démêler une situation personnelle ?
L’essor des chatbots d’intelligence artificielle (type ChatGPT) dans le soutien psychologique soulève des questions. Accessible sans encadrement, ces outils non spécialisés sont parfois utilisés à la place d’une consultation professionnelle, ce qui peut avoir des conséquences préoccupantes.
En novembre 2025, l’Université de Californie à San Francisco (UCSF) a documenté le premier cas de psychose associée à l’usage intensif d’un chatbot. Une utilisatrice a développé des croyances délirantes persistantes après des interactions prolongées avec le système, nécessitant une hospitalisation. Il est à noter que cette utilisatrice avait une bonne expérience des modèles de langage et autres concepts sur lesquels s’appuient les chatbots, elle n’était donc pas une utilisatrice « naïve ». Les clinicien·ne·s soulignent que l’IA peut exciter ou valider des idées irrationnelles chez des personnes vulnérables. (ucsf.edu, ICNS).
Plus récemment, Le Monde (janvier 2026) rapporte que certaines personnes en détresse confient leur mal-être à des chatbots, avec des risques d’aggravation des symptômes et, dans certains cas, de comportements dangereux. L’article décortique les risques pour les utilisateur·ice·s, les inquiétudes des clinicien·ne·s, mais aussi les enjeux pour les startups comme pour les géants de la tech (lemonde.fr).
Les cas rapportés dans ces articles mettent en lumière plusieurs mécanismes : validation des croyances, intensification des symptômes et effet de boucle renforçant les pensées délirantes. Les chercheur·se·s UCSF recommandent d’analyser les journaux de conversation pour détecter des signaux précoces et envisager des garde‑fous adaptés.
Même si ces événements restent rares, ils posent une question centrale : comment concilier accessibilité de l’IA et sécurité psychologique ? Il convient de se souvenir que les chatbots sont conçus pour être agréables à leurs utilisateur·rice·s, afin d’augmenter l’engagement. Cela constitue un défaut majeur pour une utilisation dans le cadre psychologique et psychiatrique.
Sources :
- Belot, L. (2026, janvier 13). Quand les chatbots et l’IA entrent en psychiatrie, les risques de la thérapie en libre-service. Le Monde. https://www.lemonde.fr/sciences/article/2026/01/12/sante-mentale-quand-les-chatbots-et-l-ia-entrent-en-psychiatrie-les-risques-de-la-therapie-en-libre-service_6661523_1650684.html
- Pierre, J. M. (2025). Can AI chatbots validate delusional thinking? BMJ, 391, r2229. https://doi.org/10.1136/bmj.r2229
- Pierre, J. M., Gaeta, B., Raghavan, G., & Sarma, K. V. (2025). “You’re Not Crazy” : A Case of New-onset AI-associated Psychosis. Innovations in Clinical Neuroscience, 22, 10‑12. https://innovationscns.com/youre-not-crazy-a-case-of-new-onset-ai-associated-psychosis/
- UC San Francisco. (2026, janvier 20). Psychiatrists Hope Chat Logs Can Reveal the Secrets of AI Psychosis. https://www.ucsf.edu/news/2026/01/431366/psychiatrists-hope-chat-logs-can-reveal-secrets-ai-psychosis
Laisser un commentaire