Sam Altman, PDG du créateur de ChatGPT, OpenAI, a averti que le monde n’était peut-être pas “si loin d’être effrayant” que l’intelligence artificielle, et a déclaré que sa réglementation serait “critique”.
Dans une série de tweets dimanche, Altman a déclaré qu’une changeover vers un avenir basé sur l’IA est “généralement bonne” et peut se produire rapidement – comme la changeover du “monde pré-smartphone au monde publish-smartphone”.
Il a cependant averti que la société avait besoin de temps pour s’adapter à “quelque chose d’aussi grand” que l’IA.
“Nous avons également besoin de suffisamment de temps pour que nos institutions déterminent ce qu’il faut faire. La réglementation sera essentielle et prendra du temps à comprendre bien que les outils d’IA de la génération actuelle ne soient pas très effrayants, je pense que nous ne sommes potentiellement pas si loin de potentiellement effrayants”, a-t-il tweeté.
/blockquote>
Il a signalé qu’un défi avec les chatbots d’IA est “les gens qui sortent instables de parler à un chatbot, même s’ils savent ce qui se passe vraiment”.
Ce phénomène a été récemment observé avec le moteur de recherche Bing alimenté par ChatGPT de Microsoft. Bing a énervé certaines personnes la semaine dernière après avoir commencé à donner des réponses choquantes à des thoughts, qui allaient de sarcastiques et argumentatives à ouvertement émotionnelles.
Microsoft a expliqué dans un post de weblog mercredi dernier que de longues conversations peuvent « confondre le modèle » qui peut parfois essayer de répondre ou « refléter le ton dans lequel on lui demande de fournir des réponses qui peuvent conduire à un fashion que nous n’avions pas prévu. ” La société essaie également de maîtriser la plate-forme – elle limite désormais le nombre d’échanges que les utilisateurs peuvent avoir avec le bot. Les utilisateurs peuvent désormais poser jusqu’à cinq queries à Bing par session et avoir jusqu’à 50 sessions par jour.
Altman parle de réglementer l’IA depuis 2015
Ce n’est pas la première fois qu’Altman parle de réglementer l’IA. Il a écrit à ce sujet sur son website dès mars 2015.
“Le gouvernement américain, et tous les autres gouvernements, devraient réglementer le développement du SMI”, a-t-il écrit, faisant référence à l’intelligence artificielle surhumaine. “Dans un monde idéal, la réglementation ralentirait les méchants et accélérerait les bons – il semble que ce qui se passera avec le premier SMI à être développé sera très essential.”
Le tweet de dimanche d’Altman sur la réglementation a fait écho aux commentaires de Mira Murati, la directrice procedure d’OpenAI, qui a déclaré dans une interview du 5 février avec le journal Time que ChatGPT devrait être réglementé, car il pourrait être utilisé à mauvais escient. “Il n’est pas trop tôt” pour le réglementer, a déclaré Murati au média.
Elon Musk – cofondateur d’OpenAI aux côtés d’Altman – a déclaré mercredi dernier lors du Sommet mondial du gouvernement à Dubaï que l’IA avait “de grandes, grandes promesses” et des capacités – à la fois positives et négatives, mais qu’il fallait une réglementation.
“Je pense que nous devons réglementer la sécurité de l’IA, franchement”, a déclaré Musk, selon CNBC. “C’est, je pense, en fait un moreover grand risque pour la société que les voitures, les avions ou les médicaments.”