Un ancien haut responsable de la sécurité chez OpenAI expose tout cela.
Mardi soir, Jan Leike, responsable du groupe de superalignement de la société d'intelligence artificielle, a annoncé son départ avec un message direct sur X : « J'ai démissionné ».
Aujourd'hui, trois jours plus tard, Leike en dit plus sur son départ – et déclare qu'OpenAI ne prend pas la sécurité suffisamment au sérieux.
Dans ses articles, Leike a déclaré qu'il avait rejoint OpenAI parce qu'il pensait que ce serait le meilleur endroit au monde pour rechercher comment « orienter et contrôler » l'intelligence artificielle générale (AGI), le type d'IA qui peut penser plus vite qu'un humain.
« Cependant, je suis en désaccord avec les dirigeants d'OpenAI sur les priorités fondamentales de l'entreprise depuis un certain temps, jusqu'à ce que nous atteignions finalement un point de rupture », a écrit Leike.
Mais Leike a déclaré que son équipe – qui travaillait sur la manière d'aligner les systèmes d'IA sur ce qu'il y a de mieux pour l'humanité – « naviguait contre le vent » à OpenAI.
« Il est grand temps que nous prenions au sérieux les implications de l'AGI », a-t-il écrit, ajoutant que « OpenAI doit devenir une entreprise AGI axée sur la sécurité ».
Leike a terminé son fil de discussion avec une note adressée aux employés d'OpenAI, les encourageant à modifier la culture de sécurité de l'entreprise.
« Je compte sur vous. Le monde compte sur vous », a-t-il déclaré.
Démissions chez OpenAI
Leike et Ilya Sutskever, l'autre chef d'équipe du superalignement, ont quitté OpenAI mardi à quelques heures d'intervalle.
Dans une déclaration sur X, Altman a salué Sutskever comme « sans aucun doute l'un des plus grands esprits de notre génération, un phare dans notre domaine et un ami cher ».
« OpenAI ne serait pas ce qu'il est sans lui », a écrit Altman. « Bien qu'il ait quelque chose d'important personnellement sur lequel il va travailler, je lui serai éternellement reconnaissant pour ce qu'il a fait ici et je m'engage à terminer la mission que nous avons commencée ensemble. »
Altman n'a pas commenté la démission de Leike.
Vendredi, Wired a annoncé qu'OpenAI avait dissous l'équipe de gestion des risques en matière d'IA du couple. Selon Wired, les chercheurs qui enquêtaient sur les dangers d'une IA devenant malveillante seront désormais absorbés par d'autres secteurs de l'entreprise.
La société d’IA – qui a récemment lancé un nouveau grand modèle de langage GPT-4o – a été secouée par des bouleversements de grande envergure au cours des dernières semaines.
En plus du départ de Leike et Sutskever, Diane Yoon, vice-présidente du personnel, et Chris Clark, responsable des initiatives stratégiques et à but non lucratif, sont partis, selon The Information. Et la semaine dernière, BI a rapporté que deux autres chercheurs travaillant sur la sécurité avaient quitté l'entreprise.
L'un de ces chercheurs a écrit plus tard qu'il avait perdu confiance dans le fait qu'OpenAI « se comporterait de manière responsable à l'époque de l'AGI ».
