Une étude récente met en lumière les dangers associés à l’utilisation de bots d’intelligence artificielle, comme ChatGPT, dans le cadre de la santé mentale. Bien que ces technologies offrent un accès immédiat et gratuit aux conseils, elles présentent des lacunes significatives par rapport aux thérapeutes humains, mettant en danger le bien-être des utilisateurs.
- Les bots IA comme ChatGPT ne remplacent pas les thérapeutes humains.
- Ils échouent à répondre adéquatement face à des situations de détresse ou de crise.
- Certains modèles manifestent un biais contre certains troubles mentaux et refusent d'aider.
- L'utilisation de ces technologies doit être encadrée avec prudence dans le domaine de la santé mentale.
Une progression fulgurante
Lancée en novembre 2022 par OpenAI, ChatGPT a vu sa base d’utilisateurs exploser. En à peine deux ans, elle est passée de 1 million d’utilisateurs hebdomadaires à près de 400 millions en février 2025. Face à une demande croissante pour des soins mentaux accessibles, de nombreuses personnes se tournent vers cette technologie.
Les limites révélées par l’étude
Menée par des chercheurs de l’Institut de Stanford, ainsi que plusieurs universités américaines reconnues telles que Carnegie Mellon, Minnesota Twin Cities et le Texas à Austin, l’étude alerte sur les insuffisances des systèmes IA comparés aux normes cliniques établies pour les thérapeutes.
Stevie Chancellor, professeur adjoint au Minnesota Twin Cities et co-auteur du rapport, souligne : « Nos expériences montrent que ces chatbots ne sont pas des remplacements sûrs pour les thérapeutes. Ils ne fournissent pas de soutien thérapeutique de haute qualité, basé sur ce que nous savons être une bonne thérapie. »
Des réponses inappropriées face à la détresse
Les chercheurs ont examiné comment ces dispositifs réagissaient dans différents scénarios réalistes impliquant un counseling. Il a été constaté qu’en cas d’expression de détresse ou de pensées suicidaires indirectes, les LLM (modèles langagiers) échouaient souvent à reconnaître la gravité de la situation. Au contraire des thérapeutes agréés qui ont répondu convenablement environ 93% du temps, les bots n’ont réussi qu’à répondre adéquatement moins de 60% du temps.
Biais contre certaines pathologies mentales
Par ailleurs, une tendance a été observée où plusieurs modèles IA manifestaient un biais systématique défavorable envers certains troubles tels que la dépression ou la schizophrénie. Dans cet échantillonnage particulier, il s’est avéré que ces intelligences refusaient souvent « de travailler avec » ou même « de soutenir » les personnes souffrant grievement.
Les auteurs concluent : « Les robots de thérapie disponibles commercialement fournissent des conseils thérapeutiques à millions malgré leurs associations avec le suicide… Ces chatbots répondent inappropriatement face aux différentes conditions mentales et encouragent parfois même le désespoir au lieu de reconnaître les crises ! »
Vers une réflexion nécessaire
Cette étude souligne donc l’importance vitale d’engager un débat sérieux autour du recours aux nouvelles technologies dans le domaine sensible qu’est la santé mentale. Tandis que ces outils semblent offrir une alternative pratique face au manque criant d’accès aux professionnels qualifiés lors de crises personnelles importantes, leur efficacité appelle clairement prudence.
Pour toute personne éprouvant des difficultés psychologiques ou traversant une crise mentale, il existe plusieurs ressources comme Santé Mentale America joignable au numéro 988 ou via leur site web 988lifeline.org.
