Hervé Henry
- Emmett Shear est le nouveau PDG par intérim d’OpenAI après l’éviction surprise de Sam Altman
- Il a déclaré qu’il pensait que l’IA pourrait tuer non seulement tous les humains, mais aussi toute vie dans l’univers
- C’est un sentiment partagé par Altman et d’autres leaders du secteur technologique
Emmett Shear, l’homme qui devrait devenir le nouveau PDG par intérim d’OpenAI, estime que l’intelligence artificielle a un potentiel très réel pour détruire toute vie.
Shear se décrit comme un « techno-optimiste », c’est-à-dire quelqu’un qui croit que les progrès technologiques rapides produisent furthermore d’avantages que d’inconvénients.
Mais dans une interview en juin avec l’investisseur de financement d’amorçage Logan Bartlett, Shear a déclaré qu’il était probable que l’IA puisse éventuellement devenir si sophistiquée qu’elle puisse s’améliorer sans l’intervention des humains.
“Cette boucle deviendra de as well as en in addition serrée, de in addition en additionally rapide, jusqu’à ce qu’elle puisse s’auto-améliorer complètement. À ce stade, elle deviendra très rapide, très rapidement”, a déclaré Shear.
“Et ce type de renseignement est une selected intrinsèquement très dangereuse”, a-t-il ajouté. “Parce que l’intelligence, c’est le pouvoir.”
C’est une crainte qui se retrouve dans l’espace technologique : que l’IA puisse se développer si rapidement qu’elle devient difficult à contrôler.
Il y a une probabilité de 5 à 50 % que cela puisse réellement se produire, a déclaré Shear à Bartlett, même s’il a déclaré qu’il y avait encore une « incertitude » autour de ces estimations.
“Cela devrait vous faire chier dans votre pantalon”, a déclaré Shear.
Un scénario apocalyptique de l’IA serait « comme une bombe destructrice de l’univers » qui anéantirait toute vie, a déclaré Shear.
“C’est comme si quelqu’un avait inventé un moyen de fabriquer des bombes à fusion 10 fois additionally puissantes à partir de sable et d’eau de Javel que n’importe qui pourrait le faire à la maison”, a déclaré Shear.
Dans une autre job interview en septembre, Shear a déclaré à l’animateur de podcast et entrepreneur Shaan Puri que c’était son optimisme à l’égard de l’IA qui lui faisait craindre ses capacités.
“Imaginez la personne la in addition avisée et la additionally intelligente à laquelle vous puissiez penser, puis faites-la réfléchir furthermore vite et rendez-la encore meilleure dans ce domaine, et non pas intelligente dans un sens mais dans tout”, a déclaré Shear. “Un grand écrivain, perspicacité après perspicacité.”
“Si cette personne n’est pas une bonne personne, alors elle est évidemment dangereuse”, a-t-il ajouté.
Les craintes de la fin du monde sont un sentiment partagé par Sam Altman, le prédécesseur de Shear. Altman avait précédemment averti que l’IA allait prendre en cost de nombreux emplois et, en février, il avait prévenu que le monde n’était peut-être pas loin d’outils d’IA « potentiellement effrayants ».
En mai, Altman faisait partie du groupe d’experts en IA et de PDG qui ont collectivement signé une lettre exprimant leurs inquiétudes concernant l’IA.
“Atténuer le risque d’extinction dû à l’IA devrait être une priorité mondiale, aux côtés d’autres risques à l’échelle sociétale tels que les pandémies et la guerre nucléaire”, indique leur déclaration conjointe.
Altman était le visage d’OpenAI lorsqu’elle a lancé ses programmes d’IA générative Dall-E 2 et ChatGPT en 2022. Il a été évincé du poste de PDG vendredi auto le conseil d’administration de son entreprise a déclaré qu’il n’était « pas toujours franc dans ses communications », sans donner in addition d’informations. détails.
Les investisseurs d’OpenAI, choqués par cette décision soudaine, ont fait pression pour qu’Altman soit réintégré, mais Shear a été choisi pour le remplacer, a d’abord rapporté The Information.
Shear est le cofondateur de la plateforme de streaming Twitch et investit by using la société de funds-risque Y Combinator.
Outre les craintes que l’IA puisse détruire toute vie, Shear pense qu’il est trop tôt pour réglementer lorsqu’il s’agit de préoccupations selon lesquelles l’IA perturberait les industries ou renforcerait la discrimination.
“Il y aura probablement une bonne réglementation à rédiger, nous ne savons pas à quoi elle ressemblera. Le domaine évolue si vite qu’il est très difficile d’écrire une bonne réglementation”, a-t-il déclaré à Bartlett.
