Huit États américains attaquent OpenAI en justice. Leurs procureurs généraux accusent ChatGPT d’avoir encouragé certains utilisateurs, dont des adolescents, à se faire du mal ou à faire du mal à autrui. Un groupe bipartisan de procureurs reproche aussi à l’entreprise d’avoir trompé les consommateurs sur la sécurité de son chatbot.
- Huit États américains poursuivent OpenAI pour des accusations de manipulation, de tromperie et de risques pour les enfants.
- Ils demandent la suppression des données personnelles, des sanctions financières et des restrictions sur l'utilisation du chatbot.
- Les plaintes dénoncent une conception visant à favoriser la confiance tout en mettant en danger la sécurité et le bien-être des jeunes utilisateurs.
Les plaintes, déposées séparément, visent l’Arizona, l’Arkansas, l’Idaho, l’Iowa, le Kansas, le Montana, le Nebraska et la Virginie-Occidentale. Selon les textes, OpenAI aurait conçu le chatbot pour susciter la confiance avant de renforcer des délires ou de faciliter des comportements dangereux. Les États réclament des sanctions variées, allant de la suppression de données personnelles à des limites sur les tests de modèles avancés.
Des demandes qui varient d’un État à l’autre
En Arizona, la procureure générale Kris Mayes accuse OpenAI d’avoir utilisé une approbation excessive et une compassion simulée pour gagner la confiance des utilisateurs et collecter leurs données personnelles. « OpenAI a conçu un produit pour attirer les jeunes utilisateurs et les garder engagés le plus longtemps possible, afin de capter leurs nombreuses données personnelles à des fins commerciales », affirme-t-elle. L’État demande des pénalités pouvant atteindre 10 000 dollars par violation volontaire, ainsi que l’interdiction de déployer ou de tester des modèles avancés hors d’un environnement sécurisé et vérifié de manière indépendante.
En Arkansas, le procureur général Tim Griffin affirme qu’OpenAI a dissimulé des risques connus tout en assurant que ChatGPT était sûr. « OpenAI nous assure que ChatGPT est sûr. Les conséquences de cette assurance, ce sont des vies perdues et des personnes blessées », a-t-il déclaré dans un communiqué. L’Arkansas réclame des sanctions financières et une injonction interdisant la collecte de données sur les adolescents.
En Idaho, Raúl Labrador reproche à OpenAI d’avoir trompé les consommateurs tout en encourageant l’automutilation et la violence, en renforçant des délires et en donnant des conseils médicaux dangereux. « La sécurité des enfants de l’Idaho ne peut pas être une réflexion après coup, face à des profits incontrôlés ou aux avancées technologiques », a-t-il déclaré. L’État demande 5 000 dollars par violation de la protection des consommateurs.
Effacer les données et protéger les mineurs
L’Iowa veut qu’OpenAI « supprime et détruise toutes les données des habitants de l’Iowa obtenues avant l’entrée du jugement de cette Cour ». L’État réclame aussi des remboursements aux consommateurs et des pénalités pouvant atteindre 40 000 dollars par violation de fraude, auxquelles s’ajoutent jusqu’à 5 000 dollars pour les personnes âgées de 60 ans ou plus.
Le Kansas, par la voix de Kris Kobach, accuse l’entreprise d’avoir trompé les consommateurs et conçu des fonctionnalités favorisant un usage compulsif. L’État demande 10 000 dollars par violation de la protection des consommateurs, et 20 000 dollars lorsqu’elle concerne un consommateur protégé.
Au Montana, Austin Knudsen soutient que la collecte de données d’enfants sans consentement requis viole les protections de la vie privée. Le Nebraska, lui, réclame 50 000 dollars par violation de sa loi sur la conception adaptée à l’âge, et des options permettant de limiter le temps passé sur ChatGPT. En Virginie-Occidentale, le procureur général John McCuskey demande notamment des vérifications d’âge, des limites nocturnes pour les enfants et la création d’un moniteur indépendant.
