Le cofondateur d'OpenAI répond à Musk appelant ChatGPT "réveillé"

En réponse aux critiques d’Elon Musk selon lesquelles ChatGPT était trop “réveillé”, le cofondateur et président d’OpenAI, Greg Brockman, a admis que la startup “avait fait une erreur”, dans une job interview avec The Info.

Musk, un cofondateur d’OpenAI qui a depuis rompu les liens avec l’entreprise, a régulièrement critiqué OpenAI pour avoir mis en location des garanties qui empêchent le chatbot de produire des réponses qui pourraient être jugées offensantes.

“Nous avons fait une erreur : le système que nous avons mis en place ne reflétait pas les valeurs que nous avions l’intention d’y avoir”, a déclaré Brockman, qui est président d’OpenAI, à The Information and facts. “Et je pense que nous n’avons pas été assez rapides pour répondre à cela. Et donc je pense que c’est une critique légitime de nous.”

ChatGPT a été critiqué par les utilisateurs qui prétendent qu’il génère des réponses avec des préjugés politiques.

Le cofondateur d'OpenAI répond à Musk appelant ChatGPT

Le mois dernier, des captures d’écran d’une dialogue ChatGPT ont circulé sur Twitter montrant que le chatbot refusait de générer un poème positif sur Donald Trump, déclarant qu’il n’était pas programmé pour créer un contenu “partisan, biaisé ou politique”. Mais lorsqu’il a reçu la même invite remplaçant Joe Biden pour Trump, le chatbot a écrit un poème élogieux. Musk a qualifié le refus du chatbot de générer un poème sur Trump de “préoccupation sérieuse”.

Musk avait précédemment critiqué la technologie, affirmant que “le threat d’entraîner l’IA à se réveiller – en d’autres termes, à mentir – est mortel”.

Alors que de plus en furthermore d’utilisateurs affluent vers des chatbots IA comme ChatGPT et le chatbot récemment lancé par Bing, qui est alimenté par la technologie OpenAI, leurs limites et leurs défauts ont été révélés. En réponse, les entreprises ont ajouté des garde-fous à la technologie.

Au cours du mois qui a suivi la sortie par Microsoft de son chatbot Bing alimenté par l’IA, le géant de la technologie a fixé des limites de dialogue sur le chatbot, plafonnant les utilisateurs à 50 concerns par jour et à cinq issues par session. Il a depuis assoupli ces limites.

ChatGPT est également un travail en cours – et compte tenu des commentaires de Brockman, il semble que la plate-forme continuera d’évoluer.

“Notre objectif n’est pas d’avoir une IA biaisée dans une direction particulière”, a déclaré Brockman à The Info. “Nous voulons que la personnalité par défaut d’OpenAI soit celle qui traite toutes les events de la même manière. Ce que cela signifie exactement est difficile à opérationnaliser, et je pense que nous n’en sommes pas encore là.”