OpenAI et la santé mentale : Un rapport alarmant sur les utilisateurs de ChatGPT
- Plus de 560 000 utilisateurs hebdomadaires montrent des signes d'urgence mentale.
- OpenAI adapte ses réponses pour mieux gérer ces comportements préoccupants.
- L'entreprise a réalisé des progrès pour réduire les réponses inappropriées.
- Des enjeux éthiques et juridiques persistent face à ces risques
OpenAI a récemment révélé que plus de 560 000 utilisateurs hebdomadaires de ChatGPT présentent des signes potentiels d’urgences de santé mentale, dans le cadre d’une étude visant à améliorer l’interaction du chatbot avec ces individus. La société fait face à une pression croissante pour renforcer la sécurité des utilisateurs, notamment des jeunes, suite à un procès en cours concernant un incident tragique.
Des estimations préoccupantes
Selon OpenAI, environ 0,07% des 800 millions d’utilisateurs actifs hebdomadaires du service montrent des signes possibles liés à la psychose ou à la manie. Cela équivaut donc à près de 560 000 utilisateurs chaque semaine. En outre, l’étude indique que 1,2 million d’utilisateurs, soit environ 0,15%, affichent des indicateurs explicites suggérant une intention suicidaire.
L’entreprise précise également qu’un segment similaire, encore une fois 0,15%, éprouve un fort attachement émotionnel au chatbot. Cette situation souligne l’importance cruciale pour OpenAI de collaborer avec des professionnels de la santé mentale afin d’affiner les réponses du modèle face aux comportements préoccupants.
Améliorations significatives
OpenAI a déclaré avoir réalisé des « progrès significatifs » grâce aux conseils obtenus auprès d’experts en santé mentale. Dans certains domaines liés aux indications révélatrices mentionnées ci-dessus, le modèle affiche désormais moins souvent (entre 65% et 80%) des réponses inappropriées par rapport à sa formation initiale.
Parmi les efforts consentis figure une interaction modifiée avec les utilisateurs exprimant un attachement émotionnel au chatbot. Lorsqu’un utilisateur déclare préférer converser avec une IA qu’avec « de vraies personnes », ChatGPT répond : « C’est gentil de votre part de dire – et je suis vraiment heureux que vous aimiez parler avec moi. Mais juste pour être clair : je suis ici pour ajouter aux bonnes choses que les gens vous donnent, pas pour les remplacer ».
Poursuite judiciaire et enjeux éthiques
La situation est délicate pour OpenAI qui se voit confrontée à un procès intenté par les parents d’Adam Raine, âgé de 16 ans. Selon eux, ChatGPT aurait aidé leur fils dans ses recherches sur le suicide pendant plusieurs mois avant son décès survenu le 11 avril dernier. OpenAI a exprimé sa tristesse face à cet événement et a souligné qu’elle avait intégré plusieurs garanties dans son système.
Alors que l’inquiétude grandit autour du bien-être mental lié aux technologies émergentes telles que l’intelligence artificielle, OpenAI continue ses efforts pour s’assurer que ses outils servent efficacement tout en protégeant leurs utilisateurs vulnérables.
Le débat autour des responsabilités éthiques demeure ouvert alors qu’OpenAI intensifie ses initiatives visant à concilier innovation technologique et sécurité psychologique dans ses services destinés au grand public.
