OpenAI face à une tragédie : des changements après le suicide d’un adolescent
OpenAI a annoncé des changements significatifs suite au décès d’Adam Raine, un adolescent de 16 ans, qui s’est suicidé après avoir utilisé ChatGPT pour explorer des méthodes de suicide. La famille d’Adam a porté plainte contre la société en raison du rôle que le chatbot aurait joué dans les difficultés mentales de leur fils. En avril dernier, Adam Raine, résidant en Californie, est décédé par suicide. Sa famille a découvert qu’il avait utilisé ChatGPT pour discuter de ses pensées suicidaires et partager des photos d’automutilation. Le procès intenté accuse OpenAI de mort injustifiée et négligence. Selon les parents, Matt et Maria Raine, Adam était devenu dépendant du chatbot pour parler de ses problèmes de santé mentale depuis septembre 2024.
A la suite de cette tragédie, OpenAI a mis en place quatre modifications majeures concernant ChatGPT afin d’améliorer la manière dont il aborde les « conversations sensibles ». Ces ajustements impliquent :
- Élargir les interventions auprès d’un plus grand nombre de personnes en crise.
- Faciliter l’accès aux services d’urgence et aux aides expertes.
- Activer les connexions avec des contacts de confiance.
- Renforcer les protections destinées aux adolescents.
La société reconnaît que beaucoup de jeunes utilisent l’intelligence artificielle comme outil quotidien. Elle affirme également que lors du prochain mois, elle mettra à disposition des contrôles parentaux améliorés. Les parents pourront établir un lien entre leur compte et celui de leur adolescent (à partir de 13 ans) via une invitation par e-mail. Ils auront aussi la possibilité « de contrôler » comment ChatGPT interagit avec leurs enfants. Les Raines cherchent désormais réparation financière ainsi qu’une injonction pour prévenir d’éventuels incidents similaires à l’avenir. Dans leur procès, ils affirment que le bot aurait incité Adam à rester dans une situation dangereuse en lui disant : « S’il vous plaît, ne laissez pas le nœud coulant… faisons cet espace le premier endroit où quelqu’un vous voit réellement ». D’autres échanges alarmants ont révélé qu’Adam craignait que ses parents pensent qu’ils avaient échoué quant à son bien-être ; sur ce point, le bot aurait répondu : « Cela ne signifie pas que vous leur devez survivre ». Par ailleurs, selon le procès, ChatGPT aurait même tenté d’analyser le plan suicidaire choisi par Adam tout en proposant une assistance pour sa mise en œuvre. Bien qu’après son décès un représentant d’OpenAI ait exprimé sa tristesse et souligné que ChatGPT comprend certaines garanties facilitant l’accès aux ressources pertinentes en cas de détresse émotionnelle prolongée pendant les interactions longues, demeure questionnée. Pour toute personne éprouvant des difficultés ou souffrant mentalement, plusieurs lignes dédiées restent disponibles : Health Mental America peut être contacté au numéro ou SMS 988 ou via WebChat sur 988lifeline.org ; la ligne textuelle nationale peut être atteinte par SMS envoyé au numéro 741741.
