Lacroix Merci pour l’enregistrement !
En réponse aux critiques d’Elon Musk selon lesquelles ChatGPT était trop “réveillé”, le cofondateur et président d’OpenAI, Greg Brockman, a admis que la startup “avait fait une erreur”, dans une job interview avec The Info.
Musk, un cofondateur d’OpenAI qui a depuis rompu les liens avec l’entreprise, a régulièrement critiqué OpenAI pour avoir mis en location des garanties qui empêchent le chatbot de produire des réponses qui pourraient être jugées offensantes.
“Nous avons fait une erreur : le système que nous avons mis en place ne reflétait pas les valeurs que nous avions l’intention d’y avoir”, a déclaré Brockman, qui est président d’OpenAI, à The Information and facts. Et donc je pense que c’est une critique légitime de nous.”
ChatGPT a été critiqué par les utilisateurs qui prétendent qu’il génère des réponses avec des préjugés politiques.
Le mois dernier. déclarant qu’il n’était pas programmé pour créer un contenu “partisan, biaisé ou politique”. Mais lorsqu’il a reçu la même invite remplaçant Joe Biden pour Trump, le chatbot a écrit un poème élogieux. Musk a qualifié le refus du chatbot de générer un poème sur Trump de “préoccupation sérieuse”.
Musk avait précédemment critiqué la technologie, affirmant que “le threat d’entraîner l’IA à se réveiller – en d’autres termes, à mentir – est mortel”.
Alors que de plus en furthermore d’utilisateurs affluent vers des chatbots IA comme ChatGPT et le chatbot récemment lancé par Bing, qui est alimenté par la technologie OpenAI, leurs limites et leurs défauts ont été révélés. En réponse, les entreprises ont ajouté des garde-fous à la technologie.
Au cours du mois qui a suivi la sortie par Microsoft de son chatbot Bing alimenté par l’IA, le géant de la technologie a fixé des limites de dialogue sur le chatbot, plafonnant les utilisateurs à 50 concerns par jour et à cinq issues par session. Il a depuis assoupli ces limites.
ChatGPT est également un travail en cours – et compte tenu des commentaires de Brockman, il semble que la plate-forme continuera d’évoluer.
“Notre objectif n’est pas d’avoir une IA biaisée dans une direction particulière”, a déclaré Brockman à The Info. “Nous voulons que la personnalité par défaut d’OpenAI soit celle qui traite toutes les events de la même manière. Ce que cela signifie exactement est difficile à opérationnaliser, et je pense que nous n’en sommes pas encore là.”
