Deux des fondateurs d'OpenAI, le PDG Sam Altman et le président Greg Brockman, sont sur la défensive après un bouleversement au sein du service de sécurité de l'entreprise cette semaine.
Le scientifique en chef de l'entreprise, Ilya Sutskever, qui est également l'un des fondateurs, a annoncé sur X qu'il quittait l'entreprise mardi. Quelques heures plus tard, son collègue Jan Leike a emboîté le pas.
Sutskever et Leike ont dirigé l'équipe de super alignement d'OpenAI, qui se concentrait sur le développement de systèmes d'IA compatibles avec les intérêts humains. Cela les mettait parfois en opposition avec des membres de la direction de l'entreprise qui prônaient un développement plus agressif.
« Je suis en désaccord avec les dirigeants d'OpenAI sur les priorités fondamentales de l'entreprise depuis un certain temps, jusqu'à ce que nous atteignions finalement un point de rupture. » Leike a écrit sur X vendredi.
Sutskever faisait partie des six membres du conseil d'administration qui ont tenté d'évincer Altman de son poste de PDG en novembre, bien qu'il ait déclaré plus tard qu'il regrettait cette décision.
Après leur départ, Altman a qualifié Sutskever de « l'un des plus grands esprits de notre génération » et a déclaré qu'il était « très reconnaissant » des contributions de Leike dans les articles sur X. Il a également déclaré que Leike avait raison : « Nous avons beaucoup plus à faire ; s'engagent à le faire. »
Mais alors que l’inquiétude du public continue de croître, Brockman a fourni plus de détails samedi sur la façon dont OpenAI abordera la sécurité et les risques à l’avenir – d’autant plus qu’elle développe l’intelligence artificielle générale et construit des systèmes d’IA plus sophistiqués que les chatbots.
Dans un article de près de 500 mots sur X signé par lui et Altman, Brockman a abordé les mesures déjà prises par OpenAI pour garantir le développement et le déploiement en toute sécurité de la technologie.
Nous sommes vraiment reconnaissants envers Jan pour tout ce qu'il a fait pour OpenAI, et nous savons qu'il continuera à contribuer à la mission de l'extérieur. À la lumière des questions soulevées par son départ, nous voulions expliquer un peu comment nous envisageons notre stratégie globale.
Tout d’abord, nous avons… https://t.co/djlcqEiLLN
/blockquote>
« Nous avons démontré à plusieurs reprises les incroyables possibilités offertes par l'intensification de l'apprentissage profond et analysé leurs implications ; nous avons appelé à une gouvernance internationale de l'AGI avant que de tels appels ne soient populaires ; et avons contribué à faire œuvre de pionnier dans la science de l'évaluation des systèmes d'IA pour détecter les risques catastrophiques », a écrit Brockman.
Altman a récemment déclaré que le meilleur moyen de réglementer l'IA serait de créer une agence internationale garantissant des tests de sécurité raisonnables, mais il a également exprimé sa méfiance à l'égard d'une réglementation émanant de législateurs gouvernementaux qui ne comprennent peut-être pas pleinement la technologie.
Brockman a déclaré qu'OpenAI a également établi les bases du déploiement en toute sécurité de systèmes d'IA plus performants que GPT-4.
« Alors que nous progressons dans cette direction, nous ne savons pas encore quand nous atteindrons notre barre de sécurité pour les versions, et ce n'est pas grave si cela repousse les délais de sortie », a écrit Brockman.
Brockman et Altman ont ajouté dans leur article que la meilleure façon d'anticiper les menaces passent par « une boucle de rétroaction très étroite, des tests rigoureux, un examen attentif à chaque étape, une sécurité de classe mondiale et une harmonie entre la sécurité et les capacités », ainsi qu'une collaboration avec « les gouvernements et de nombreuses parties prenantes en matière de sécurité ».
Mais tout le monde n'est pas convaincu que l'équipe d'OpenAI progresse dans le développement de manière à garantir la sécurité des humains, et encore moins, semble-t-il, ceux qui, il y a quelques jours encore, ont dirigé les efforts de l'entreprise dans ce domaine.
« Ces problèmes sont assez difficiles à résoudre, et je crains que nous ne soyons pas sur la bonne voie pour y parvenir », a déclaré Leike.
