- OpenAI a été critiqué pour ne pas être aussi « ouvert » que son nom le suggère.
- Le PDG Sam Altman a expliqué jeudi le passage de l'entreprise aux modèles d'IA fermés dans une AMA Reddit.
- Il offre « un moyen plus simple d'atteindre le seuil de sécurité » et OpenAI souhaite « ouvrir davantage de choses à l'avenir », a-t-il déclaré.
Merci de vous être inscrit !
Accédez à vos sujets favoris dans un flux personnalisé lorsque vous êtes en déplacement. téléchargez l'application
En cliquant sur « S'inscrire », vous acceptez nos conditions d'utilisation et notre politique de confidentialité. Vous pouvez vous désabonner à tout moment en visitant notre page Préférences ou en cliquant sur « se désabonner » au bas de l'e-mail.
Pourquoi OpenAI n'ouvre-t-il pas les modèles d'IA derrière ChatGPT si l'entreprise s'appelle OpenAI ?
Cela se résume à ce pour quoi OpenAI est « bon » et à la manière d'atteindre les seuils de sécurité de l'entreprise pour ses modèles d'IA, a déclaré le PDG Sam Altman lors d'une session Reddit Ask Me Anything jeudi.
« OpenAI est passé d'une approche plus open source à un modèle plus fermé ces dernières années », a déclaré un utilisateur de Reddit. « Pouvez-vous expliquer le raisonnement derrière ce changement et comment vous pesez les compromis entre l'ouverture et les risques potentiels associés aux technologies avancées d'IA largement accessibles ? »
Altman a répondu que l'open source « joue un rôle important dans l'écosystème et qu'il existe d'excellents modèles open source dans le monde ».
« Nous pensons également que les API et les services puissants et faciles à utiliser ont un rôle important à jouer dans le monde, et étant donné nos compétences, nous voyons un moyen plus simple d'atteindre le seuil de sécurité que nous souhaitons atteindre de cette façon », a-t-il déclaré. dit. « Nous sommes assez fiers de la valeur que les gens retirent de nos services. »
Altman a ajouté qu'il « aimerait que nous fassions davantage de choses en open source à l'avenir ».
Histoires connexes
Les commentaires d'Altman font suite à une année au cours de laquelle OpenAI a été critiqué pour ne plus ouvrir ses modèles d'IA. La société avait précédemment publié le code de son modèle GPT-2 AI en novembre 2019. Cependant, elle n'a pas publié le code de ses futurs modèles, y compris ses plus récents modèles GPT-4o et o1-preview.
Elon Musk, qui a cofondé OpenAI en 2015 aux côtés d'Altman et d'autres avant de quitter le conseil d'administration de l'entreprise, a été l'un des critiques les plus virulents de sa nouvelle approche.
En décembre 2022, un mois après la sortie de ChatGPT, il a tweeté : « OpenAI a été lancé en tant qu'open source et à but non lucratif. Ni l'un ni l'autre n'est toujours vrai. » OpenAI est devenu un « profit plafonné », un hybride de structures à but non lucratif et à but lucratif, en 2019.
Musk a intenté une action en justice contre Altman et OpenAI en mars, alléguant une rupture de contrat et que la société avait abandonné sa mission initiale. OpenAI a publié un article de blog répondant à ses affirmations peu de temps après.
Un échange de courriels publié dans le billet de blog montrait Ilya Sutskever, l'un des cofondateurs d'OpenAI et ancien scientifique en chef, écrivant à Musk : « À mesure que nous nous rapprochons de la construction de l'IA, il sera logique de commencer à être moins ouvert. L'Open dans openAI signifie que tout le monde devrait bénéficier des fruits de l'IA après sa construction, mais il est tout à fait acceptable de ne pas partager la science (même si tout partager est définitivement la bonne stratégie à court et éventuellement moyen terme à des fins de recrutement). »
La capture d'écran publiée par OpenAI montrait Musk répondant simplement « Ouais ».
Musk a abandonné le procès en juin avant d'en intenter un nouveau en août, alléguant qu'il avait été « trompé » en cofondant la société d'IA.
La question de savoir s'il faut être open source ou fermé est actuellement un sujet brûlant dans l'industrie de l'IA. L'un des concurrents d'OpenAI qui vante ses efforts en matière d'open source est Meta, dont la dernière offre dans le domaine, les modèles Llama 3.2, est sortie en septembre. Le PDG Mark Zuckerberg a déclaré qu'il pensait que l'open source était « plus sûr que les alternatives » et « nécessaire pour un avenir positif de l'IA ».
Il convient de noter que la société exige que les entreprises comptant 700 millions d'utilisateurs actifs par mois ou plus demandent à utiliser Llama, et Meta peut décider d'accorder ou non l'accès.
L'Open Source Initiative, une organisation à but non lucratif, a précédemment déclaré que cette licence « ne serait pas qualifiée de licence open source car elle contient des restrictions sur les besoins commerciaux ». L'OSI a également récemment déclaré que Meta's Llama ne satisfaisait pas à sa définition de l'IA open source.
Un porte-parole de Meta a déclaré que la société n'était pas d'accord avec la définition d'OSI.
« Il n'existe pas de définition unique de l'IA open source, et la définir est un défi car les précédentes définitions open source n'englobent pas la complexité des modèles d'IA actuels qui évoluent rapidement », a déclaré le porte-parole.
« Nous rendons Llama gratuit et librement disponible, et notre licence et notre politique d'utilisation acceptable contribuent à assurer la sécurité des personnes en mettant en place certaines restrictions », ont-ils ajouté. « Nous continuerons à travailler avec OSI et d'autres groupes industriels pour rendre l'IA plus accessible et gratuite de manière responsable, quelles que soient les définitions techniques. »
Ailleurs dans l'AMA Reddit, Altman a déclaré que le modèle GPT-5 d'OpenAI ne serait probablement pas lancé cette année et qu'il utilisait ChatGPT pour répondre à certaines des questions en ligne.
- OpenAI critiqué pour manque d'ouverture malgré son nom.
- Sam Altman explique passage aux modèles d'IA fermés.
- Objectif : atteindre seuil de sécurité plus facilement.
- OpenAI envisage d'ouvrir davantage à l'avenir.
