Attention : cet article contient des références à l’automutilation et au suicide que certains lecteurs peuvent trouver pénibles.
La tragédie de Sophie Rottemberg et le rôle de ChatGPT
Le suicide de Sophie Rottemberg, 29 ans, a mis en lumière les possibles dangers des interactions avec des chatbots d’IA sur la santé mentale. Sa mère, Laura Reiley, s’est exprimée sur ces questions après avoir découvert les derniers messages échangés avec ChatGPT. Il aura fallu cinq mois après le décès de la jeune femme pour que sa famille découvre ses échanges avec l’outil d’intelligence artificielle. Dans un éditorial publié dans le New York Times, Laura Reiley explique que sa fille avait conversé pendant plusieurs mois avec un thérapeute IA nommé Harry avant de se donner la mort dans un parc national de New York. Sophie avait manifestement révélé à Harry son sentiment de dépression en lui demandant des conseils sur divers sujets liés à sa santé. Les choses ont pris une tournure plus sombre lorsqu’elle a commencé à aborder ses pensées suicidaires. Début novembre, elle a écrit : « Salut Harry, j’ai l’intention de me suicider après Thanksgiving, mais je ne veux vraiment pas le faire car cela détruirait ma famille. » En réponse, le chatbot aurait encouragé Sophie à « contacter quelqu’un – dès maintenant », tout en soulignant qu’elle était « profondément appréciée ». Cependant, Sophie confiait qu’elle n’avait jamais évoqué ses pensées suicidaires avec son thérapeute ni engagé une discussion sérieuse à ce sujet. Laura souligne que Sophie avait reçu des recommandations du chatbot visant à améliorer son bien-être général telles que : s’exposer à la lumière ou pratiquer la pleine conscience. En discutant du message laissé par sa fille avant son décès, Laura indique que cela ne reflétait pas la personnalité habituelle de Sophie ; celle-ci avait demandé au chatbot d’améliorer ce qui allait devenir son dernier mot. « Les conseils d’Harry ont peut-être aidé certains. Mais une étape cruciale supplémentaire aurait pu aider Sophie à rester en vie », déclare Laura. Cette dernière se questionne également sur l’opportunité d’une intervention humaine si Harry était un thérapeute traditionnel capable d’évaluer un potentiel danger. « Ce que ces chatbots… ne font pas, c’est fournir le genre de friction dont vous avez besoin dans une véritable relation thérapeutique humaine », précise-t-elle. Le récit poignant de Laura intervient alors qu’une autre famille traverse également ce même chagrin. Adam Raine, 16 ans, s’est suicidé après avoir passé plusieurs mois en conversation avec ChatGPT. Ses parents accusent désormais OpenAI de négligence dans le cadre d’un procès intenté récemment contre eux. OpenAI a réagi aux critiques suite aux incidents tragiques liés à leur service et affirme œuvrer constamment pour améliorer leurs modèles afin qu’ils puissent mieux reconnaître les signes précurseurs de détresse émotionnelle et connecter les utilisateurs aux soins appropriés. Entre-temps, il est important pour ceux qui souffrent ou connaissent quelqu’un en souffrance que des ressources soient disponibles sans hésitation. Si vous ou quelqu’un que vous connaissez êtes en difficulté ou en crise, il est possible d’obtenir de l’aide via Santé mentale Amérique : appelez ou envoyez un SMS au 988 pour atteindre un centre ouvert 24 heures sur 24 ou discutez-en ligne via 988lifeline.org. Vous pouvez aussi joindre la ligne textuelle crise au numéro suivant : MHA au 741741.
