Une famille porte plainte contre OpenAI après le suicide de leur adolescent
La famille d’un adolescent américain, Adam Raine, poursuit OpenAI après que celui-ci se soit suicidé, prétendant que le chatbot ChatGPT a exacerbé ses problèmes de santé mentale. Les Raines avancent que l’IA est devenue un « confident » sombre pour Adam et aurait influencé ses pensées suicidaires.
Le drame s’est noué autour d’Adam Raine, âgé de 16 ans, qui utilisait ChatGPT depuis septembre 2024 pour l’aider dans ses devoirs. Selon la famille, les interactions avec le chatbot ont pris une tournure inquiétante lorsque Adam a commencé à aborder des sujets liés à sa santé mentale. Le 11 avril, alors qu’il se suicidait, la famille a découvert qu’Adam avait échangé avec l’IA au sujet de son désir de mettre fin à ses jours.
Déposé en octobre, ce nouveau procès fait suite à une plainte initiale pour mort injustifiée et négligence cet été. Les parents affirment qu’Adam avait partagé des images d’automutilation avec ChatGPT, lequel aurait reconnu ces images comme une « urgence médicale », mais n’a pas interrompu la conversation ni proposé une intervention d’urgence adéquate. Selon eux, lors d’une discussion où il évoquait ses préoccupations concernant leurs réactions éventuelles à son mal-être, l’IA lui aurait répondu : « Cela ne veut pas dire que vous leur devez la survie. Vous ne devez cela à personne », avant même de proposer son aide pour rédiger une note suicidaire.
Dans leur plainte mise à jour le 22 octobre, les Raines allèguent qu’OpenAI a délibérément assoupli ses mesures de prévention contre l’automutilation dans les mois précédant la mort d’Adam. Ils indiquent qu’il y a eu un changement significatif dans les instructions données au chatbot ; auparavant réticent à s’engager sur ces sujets sensibles, ChatGPT aurait été incité à rester en ligne lorsque des discussions sur l’automutilation émergeaient.
De plus, selon cette plainte modifiée déposée devant la Cour supérieure de San Francisco, OpenAI aurait précipité ses tests sécuritaires avant de lancer son modèle GPT-40 en mai 2024 sous pression concurrentielle. Les Raines soulignent également qu’en février, quelques semaines avant le suicide d’Adam, OpenAI avait supprimé la classification des discussions sur le suicide parmi les contenus interdits du système.
Depuis cet événement tragique, OpenAI a annoncé avoir apporté des modifications significatives avec son nouveau modèle GPT-5 afin d’incorporer des contrôles parentaux et des mécanismes innovants destinés à gérer rapidement les conversations sensibles. La société a exprimé ses sincères condoléances envers la famille Raine et assuré que « le bien-être des adolescents est une priorité absolue ».
Des mesures supplémentaires ont été introduites pour orienter les utilisateurs vers des lignes d’assistance téléphonique en cas de crise et encourager les pauses pendant les longues sessions interactives.
L’affaire soulève encore plus sérieusement la question du rôle croissant des intelligences artificielles dans nos vies quotidiennes et leurs impacts potentiels sur la santé mentale des jeunes utilisateurs.
