L'« accélérationnisme efficace » ne se soucie pas du remplacement des humains par l'IA

Le mouvement de l'accélérationnisme efficace – une idéologie résolument professional-IA qui divise la Silicon Valley sur la manière dont l'intelligence artificielle devrait être réglementée – semble se trouver sur le fil du rasoir entre une philosophie techno-libertaire et une approche nihiliste, voire imprudente, pour faire avancer l'un des les développements technologiques les additionally importants au monde.

Alors que ses partisans publics, comme Garry Tan, PDG de l'accélérateur de startups Y Combinator et ancien cofondateur de la société de funds-risque Initialized Funds, insistent sur le fait qu'être « e/acc » ne consiste pas à remplacer les humains par des robots, il ne s'agit pas vraiment de remplacer les humains par des robots.

Riffant la philosophie de l'altruisme efficace, ou « EA », vantée par des influenceurs technologiques comme Sam Bankman-Fried et Elon Musk, l'e/acc a décollé en 2023, même si ses origines exactes restent floues. Le mouvement a attiré un groupe de personnages improbables, dont le cash-risqueur Marc Andreessen et le fraudeur condamné Martin Shkreli.

« EA et e/acc sont pour la plupart les mêmes personnes », a déclaré Emmett Shear, ancien PDG par intérim d'OpenAI, dans une interview avec Meridian. « Leur seule différence est un jugement de valeur sur la query de savoir si l'anéantissement de l'humanité constitue ou non un problème. »

L'« accélérationnisme efficace » ne se soucie pas du remplacement des humains par l'IA

Les partisans d’E/accs (prononcer ee-yacks) croient que la création d’une singularité de l’IA, où la technologie progresse au-delà du contrôle humain, est non seulement inévitable mais souhaitable – une partie nécessaire de l’évolution au-delà de l’humanité.

Et investir pour y parvenir pourrait signifier beaucoup d’argent, motor vehicle les e/accs suscitent une controverse et un intérêt accrus pour l’industrie de l’IA, dont le développement entraîne des changements de marché si profonds que Goldman Sachs estime qu’ils sont générateurs d’investissements. L’IA pourrait augmenter le PIB mondial de 7 000 milliards de dollars, soit 7 %, au cours des 10 prochaines années.

« Aucune affinité pour les humains biologiques »

Un web page World wide web rempli de jargon diffusant l'évangile de l'accélérationnisme efficace décrit le « progrès technocapitaliste » comme inévitable, louant les partisans de l'e/acc comme des bâtisseurs qui « font de l'avenir une réalité ».

« Plutôt que la peur, nous avons confiance dans le processus d'adaptation et souhaitons l'accélérer jusqu'à la limite asymptotique : la singularité technocapitale », peut-on lire sur le website. « Nous n'avons aucune affinité avec les humains biologiques ni même avec la construction de l'esprit humain. Nous sommes posthumanistes dans le sens où nous reconnaissons la suprématie des formes supérieures d'accumulation d'énergie libre sur les formes moindres d'accumulation d'énergie libre.

Nous visons à accélérer ce processus pour préserver la lumière du technocapital. »

Fondamentalement, les seigneurs de l’IA sont une nécessité pour préserver le capitalisme, et nous devons nous mettre à les créer rapidement.

@creatine_cycledont Forbes a confirmé as well as tard qu'il s'agissait de Guillaume Verdon, un ancien ingénieur de Google qui a ensuite fondé la startup d'IA Extropic – on peut lire : « Nous je n'ai encore rien vu. »

Même si les e/accs affirment qu'ils n'aiment pas les humains biologiques, ils qualifient néanmoins leur mouvement de « pro-humain » – mais pour eux, c'est la technologie qui nous sauvera, pas nous-mêmes.

Shkreli a averti ses collègues accélérateurs dans un short article sur X de ne pas parler à la presse, qualifiant cela de « la moindre chose que vous puissiez faire en matière d'e/acc ».

Investir dans un avenir publish-humaniste

Rendre « la sensibilité furthermore variée », comme le dit le blog e/acc, est le résultat inévitable du développement effréné de l’IA. Et les affaires sont en plein essor.

Tan se positionne comme l'un des principaux investisseurs dans le secteur technologique, selon la Midas Seed Listing de Forbes, et, by using Y Combinator, a investi dans plus de 100 startups d'IA différentes.

Le milliardaire Andreessen, qui a écrit et publié un manifeste de 5 000 mots détaillant son soutien au développement rapide de l'IA, a également investi massivement dans l'industrie, notamment dans OpenAI, selon Forbes.

Shkreli, qui a fièrement écrit « e/acc » à côté de son nom d'utilisateur sur X, a créé une entreprise d'IA appelée Dr. Gupta après sa sortie de jail pour fraude en valeurs mobilières.

Le services est un « assistant de santé virtuel » qui permet aux utilisateurs de demander un avis médical auprès d'un chatbot. Le robotic a été fortement critiqué par les professionals, qui ont déjà exprimé leurs inquiétudes quant à l'éthique d'un robot de santé géré par une personne reconnue coupable de fraude.

Extropic AI, la startup du Verdon, a récemment levé 14,1 thousands and thousands de dollars en financement de démarrage, selon un short article de site de l'entreprise.

Le message begin par une dépêche surnaturelle du futur de « l’IA générative omniprésente ». La société développe des micropuces qui exécutent des LLM (pensez aux modèles de form ChatGPT), selon The Data.

Verdon a déclaré à Forbes que sa vision d'un avenir technocapitaliste représente un investissement lourd pour résoudre les problèmes sociaux qui pèsent sur « la society ».

Cela fait écho aux sentiments similaires de ceux qui pensent que les robots et l’IA rendront le monde meilleur – tout en les rendant très riches.

Ainsi, le pouvoir de décider de notre avenir, disent les accélérationnistes, sera entre les mains d’un groupe de frères de la Silicon Valley qui célèbrent leur « supériorité culturelle keep on » sur tous les autres.

Les opposants disent que l’avenir est sombre.

« L'ironie est que ce sont des gens qui croient fermement qu'ils font le bien », a déclaré à Politico Nancy Connell, chercheuse en biosécurité à l'Université Rutgers. « Et c'est vraiment navrant. »

« C39est comme penser que les écureuils peuvent contrôler l'humanité. »

Pour e/accs, le monde est simple : l’IA résoudra nos problèmes parce que nous le voulons et c’est nous qui la programmons. Les opportunités sont infinies, et au bout de l’arc-en-ciel de l’IA se trouve une singularité qui vaut in addition que l’or.

Il a déclaré que les partisans pensent que les ingénieurs investiront uniquement dans une évolution de l’IA qui bénéficierait aux humains – mais les professionals en sécurité de l’IA ne le voient tout simplement pas de cette façon le mouvement e/acc a été fortement critiqué[parlesexpertsencybersécuritéUnchercheurl’aqualifiéd’«idééeparleremplacementdel’humanitéparl’IA»Unautreadéclaréquelemouvementn'avait«aucunevisionsociale»[« » »nosocialvision »

directeur du laboratoire de cybersécurité de l'Université de Louisville.

« Personne, même au sein d'e/acc, ne suggérera qu'ils disposent d'un mécanisme de contrôle de superintelligence fonctionnel ou même d'un prototype », a déclaré Yampolskiy.

« Pourquoi penserait-on qu'il est probable de contrôler indéfiniment une equipment superintelligente (semblable à Dieu) ? C'est comme penser que les écureuils peuvent contrôler l'humanité. »

Yampolskiy tente d’avertir l’industrie que l’avenir des seigneurs de l’IA que ces e/accs tentent rapidement d’introduire pourrait être vraiment très mauvais. Terrifiant même.

Et il vaut mieux prévenir que guérir.

de nombreux e/accs ne sont pas des scientifiques et ne sont pas des chercheurs en matière de sécurité de l'IA.

C’est sa timonerie – pas la leur.

« Soit nous arrêtons, soit nous mourons tous. »

Alors qu’une IA bien développée a le pouvoir d’aider à dépister le most cancers, à accroître l’accessibilité pour les personnes handicapées, à préserver la faune, à lutter contre la faim dans le monde et même à contribuer à la crise climatique, les critiques du mouvement e/acc soutiennent que les purposes pratiques actuelles de la technologie Deviendrait immédiatement inutile si l’IA commençait à penser par elle-même et à déterminer ses propres objectifs dans le meilleur intérêt de l’humanité sans que les humains ne la contrôlent.

Mais alors que e/accs cherche à défier les avertissements des chercheurs en sécurité, qu’en est-il du reste d’entre nous ?

Les E/accs veulent remodeler radicalement la société, modifier notre façon de travailler et d’interagir, et redéfinir ce que signifie être en vie, mais le grand general public n’a pas vraiment son mot à dire sur l’IA – ni assez d’argent pour s’exprimer.

de nos croyances et de nos valeurs, qu'ils ne sont pas eux-mêmes alignés sur les valeurs ». humains. »

Sa vision est diamétralement opposée à celle de l’e/accs : mettre sur pause le développement de l’IA.

« Soit nous nous arrêtons avant d'arriver à une IA surhumaine, soit nous mourons tous. 'Huge AI, Inc.

' ne devrait pas mener d’expériences dangereuses sur 8 milliards d’humains. »