Hervé Henry
- OpenAI travaille sur une IA qui égale ou dépasse l’intelligence humaine, une technologie potentiellement dangereuse
- Le conseil d’administration a accusé le PDG Sam Altman de ne pas avoir été « franc » lorsqu’il l’a licencié
- Le public a besoin de savoir sur quoi il a menti, le cas échéant
Elon Musk a plusieurs axes à défendre en ce qui concerne OpenAl et son cofondateur Sam Altman. Mais le PDG de Tesla a fait valoir un argument valable au milieu d’un week-conclude chaotique pour la startup d’intelligence artificielle.
Les événements ont débuté vendredi après-midi lorsqu’OpenAl a clairement indiqué dans un communiqué qu’Altman avait menti au conseil d’administration sur quelque selected de si essential qu’ils ont décidé de l’évincer de son poste de PDG.
“Il n’a pas toujours été franc dans ses communications avec le conseil d’administration, ce qui a entravé sa capacité à exercer ses responsabilités”, a déclaré OpenAl.
Il s’agit d’une décision radicale et très perturbatrice que les conseils d’administration prennent très rarement. Pour toute entreprise privée ordinaire, ce style d’intrigue d’entreprise aurait probablement raison de rester une affaire interne. Mais OpenAl est un cas particulier.
La startup a développé la technologie la as well as puissante au monde. GPT-4 est actuellement le modèle Al le as well as performant et le in addition influent du marché, et une nouvelle variation est en préparation qui devrait être encore as well as puissante. Altman lui-même a appelé les régulateurs et autres establishments à se préparer à l’intelligence artificielle générale, lorsque les machines égaleront, voire dépasseront, les capacités humaines.
“Compte tenu du risque et de la puissance de l’IA avancée, le general public devrait être informé des raisons pour lesquelles le conseil d’administration a estimé qu’il devait prendre des mesures aussi drastiques”, a déclaré Musk sur X dimanche.
La charte d’OpenAl, le document qui contrôle l’entreprise et indique à son conseil d’administration et à ses dirigeants remark se comporter, indique clairement que « le devoir fiduciaire principal de cette entreprise est envers l’humanité ». Il s’engage également dans la charte à utiliser toute affect d’OpenAl sur le déploiement d’AGI pour garantir que cette technologie profite à tout le monde et ne “nuit pas à l’humanité ou ne concentre pas indûment le pouvoir”.
Il s’agit d’une charte inhabituelle pour une startup technologique ou la plupart des autres entreprises privées, qui existent généralement dans le but principal de réaliser des bénéfices et de fournir un rendement aux investisseurs.
“Très peu de gens savent avec certitude ce qui s’est passé dans cette affaire, mais ma meilleure hypothèse est que lorsque les membres du conseil d’administration ont déclaré : ‘il n’a pas été toujours franc dans ses communications avec le conseil, ce qui a entravé sa capacité à exercer ses responsabilités’, ils voulaient dire que il a caché à plusieurs reprises des informations qui interféraient avec leurs obligations légales visant à garantir le développement sûr de l’AGI”, a écrit dimanche Toby Ord, chercheur principal à l’Université d’Oxford, sur X.
Musk a initialement soutenu OpenAl en tant qu’organisation de recherche axée sur la sécurité de l’aluminium. Il s’est retiré il y a quelques années et pourrait se sentir lésé de ne pas avoir pu profiter de l’évolution d’une entité aussi révolutionnaire. Musk a également lancé un groupe de recherche concurrent sur l’Al, donc le chaos à OpenAl pourrait être relativement bénéfique pour cette initiative.
Sous la path d’Altman, la startup a levé des milliards de pounds et lancé plusieurs produits dotés d’un énorme potentiel commercial. La récente journée des développeurs de la société a été remplie de mises à jour et de lancements de model entreprise Large Tech. On est loin de ses racines en matière de recherche sur la sécurité de l’aluminium.
C’est pourquoi il est vital que le community sache exactement ce qui s’est passé avec l’éviction d’Altman. J’ai interrogé dimanche le service de presse d’OpenAl et je n’ai pas obtenu de réponse.
Peut-être que le conseil d’administration a réagi de manière extreme et exagère ce qui s’est passé avec Altman. Ou cela aurait pu être un coup d’État moreover easy où le PDG aurait été évincé pour une autre raison, ou sans raison du tout.
Cependant, il existe d’autres théories sur ce qui s’est passé, ainsi que plusieurs reportages dans les médias.
Le conseil d’administration a-t-il posé des concerns à ce sujet ? Si oui, remark Altman a-t-il réagi ? Le PDG d’OpenAl devrait-il essayer de créer une autre grande entreprise ? Musk l’a fait à plusieurs reprises, mais c’est inhabituel, et le conseil d’administration d’OpenAl s’attendrait probablement à en être informé.
D’autres publications ont écrit que le cofondateur d’OpenAl, Ilya Sutskever, souhaitait poursuivre le développement d’Al avec furthermore de prudence qu’Altman, compte tenu de la menace potentielle que la technologie représente pour la société.
Le New York Situations a rapporté que Sutskever avait créé une équipe de « super alignement » pour garantir que les futures variations de GPT-4 ne seraient pas nocives pour l’humanité. Le conseil d’administration en a-t-il discuté avec Altman ? Comment a-t-il réagi ?
Ce form de schisme au sein d’OpenAl a déjà poussé un grand nombre de cofondateurs d’OpenAl à partir et à lancer une autre startup appelée Anthropic qui se dit in addition axée sur la sécurité d’Al.
Altman est, selon une photograph de lui publiée sur X dimanche après-midi, au siège d’OpenAI au second où j’écris ces lignes, en educate de négocier pour revenir diriger à nouveau OpenAl. Si cela se produit, il est encore plus important de savoir ce qu’il a dit ou n’a pas dit au conseil d’administration.
