OpenAI fait face à davantage de problems lorsqu'une autre employée annonce qu'elle a démissionné pour des raisons de sécurité.
Cela fait suite aux démissions de dirigeants de haut niveau Ilya Sutskever et Jan Leike, qui dirigeaient son équipe de recherche sur la sécurité, désormais dissoute, Superalignment.
Gretchen Krueger a annoncé mercredi dans un fil de discussion sur X qu'elle avait quitté le créateur de ChatGPT le 14 mai et que ce « n'était pas une décision facile à prendre ».
et j'ai pris ma décision de manière indépendante. Je partage leurs inquiétudes. J'ai également des inquiétudes supplémentaires qui se chevauchent. »
Elle a ajouté qu'il fallait faire davantage pour améliorer « les processus de prise de décision, la responsabilité, la transparence, la documentation, l'application des politiques, le soin avec lequel nous utilisons notre propre technologie et l'atténuation des impacts sur les inégalités, les droits et l'environnement ».
L'ancien chercheur en politiques a déclaré que les gens et les communautés partagent ces inquiétudes qui peuvent « influencer la façon dont les factors de l'avenir peuvent être tracés et par qui » et qu'elles ne devraient pas être « interprétées à tort comme étroites, spéculatives ou déconnectées ».
et j'ai pris ma décision de manière indépendante. Je partage leurs inquiétudes. J'ai également des préoccupations supplémentaires qui se chevauchent.
/blockquote>
Dans un autre report, elle a écrit : « L'une des façons dont les entreprises technologiques en général peuvent priver de leur pouvoir ceux qui cherchent à les tenir responsables est de semer la division parmi ceux qui expriment des inquiétudes ou contestent leur pouvoir. Je tiens profondément à empêcher cela. »
La semaine dernière, le scientifique en chef et cofondateur Ilya Sutskever a annoncé sa démission, suivi du directeur Jan Leike. Les deux hommes ont codirigé leur équipe Superalignment, chargée de mettre en area des mesures de security pour empêcher l’intelligence artificielle générale de devenir malveillante.
Leike a accusé OpenAI de faire passer les « produits brillants » avant la sécurité et a affirmé que l'équipe Superalignment « luttait pour les ressources de calcul » et qu'« il devenait de plus en as well as difficile de mener à bien cette recherche cruciale ».
Les départs de cette semaine et de la semaine dernière ont suivi ceux de deux autres chercheurs en sécurité, Daniel Kokotajlo et William Saunders, qui ont démissionné ces derniers mois pour des raisons similaires. Kokotajlo a déclaré qu'il était parti après avoir « perdu la confiance qu'il se comporterait de manière responsable à l’époque de l’AGI. »
