Les algorithmes informatiques sont déjà sous contrôle

Cela semble dystopique, non ? Mais ce scénario catastrophique n’est pas une hypothèse troublante sur la menace croissante de l’intelligence artificielle Cela s'est produit il y a as well as de dix ans lorsqu'une erreur de codage a entraîné des pertes de 440 hundreds of thousands de bucks pour Knight Money, ce qui a finalement conduit l'entreprise à se vendre à un prix très réduit.

« L'intelligence artificielle » n'est pas « l'avenir » : c'est simplement un terme marketing désignant une model légèrement mise à jour de l'automatisation qui régit nos vies depuis des années. Les entreprises ont utilisé une série de noms pour habiller leur technologie – automatisation, algorithmes, apprentissage automatique et maintenant IA – mais en fin de compte, ces systèmes se résument tous à la même idée  : confier la prise de décision aux ordinateurs pour exécuter des tâches à grande vitesse. bien furthermore vite qu’un humain ne le pourrait. Alors que l’on craint de moreover en plus qu’une nouvelle génération d’IA n’infecte notre vie quotidienne, mette des tens of millions de personnes au chômage et bouleverse généralement la société, la plupart des gens ne réalisent pas à quel issue la prise de décision informatisée s’est infiltrée dans toutes les facettes de la société. notre existence. Ces systèmes sont basés sur des ensembles de données et sur les règles que les êtres humains leur enseignent, mais qu'il s'agisse de gagner de l'argent sur les marchés ou de nous informer de l'actualité, une section de furthermore en as well as grande de nos vies est entre les mains de systèmes numériques irresponsables.

Dans de nombreux cas, ces algorithmes se sont révélés utiles à la société. Ils ont contribué à éliminer des tâches banales ou à uniformiser les règles du jeu. Mais de additionally en in addition, les algorithmes qui sous-tendent nos vies numériques prennent des décisions douteuses qui enrichissent les puissants et détruisent la vie des gens ordinaires. Il n'y a aucune raison d'avoir peur que l'IA prenne des décisions à votre place à l'avenir : les ordinateurs le font déjà depuis un particular temps.

Les débuts d'Web étaient une expérience relativement organisée par l'homme  : une collection disparate de webpages Internet qui n'étaient détectables que si vous connaissiez l'adresse du site ou si vous voyiez un lien vers celui-ci sur un autre site. Cela a changé en juin 1993, lorsque le chercheur Matthew Grey a créé l'un des premiers « robots du Website », un algorithme primitif conçu pour « mesurer la taille du World wide web ». L'invention de Grey a contribué à créer des moteurs de recherche et a inspiré une série de successeurs : Soar Station, Excite, Yahoo, etc. En 1998, Sergey Brin et Larry Site, étudiants de Stanford, ont franchi une nouvelle étape dans l'automatisation d'World wide web en publiant un report universitaire sur un « moteur de recherche Internet hypertexte à grande échelle » appelé Google. Le document détaille comment leur algorithme “PageRank” jugeait l'value d'un résultat World wide web sur la base de la requête d'un utilisateur, proposant le internet site le furthermore pertinent en fonction du nombre d'autres web sites World-wide-web qui y étaient liés – ce qui avait beaucoup de sens sur un website beaucoup furthermore petit et moreover vaste. World-wide-web innocent.

Les algorithmes informatiques sont déjà sous contrôle

Cependant, à un moment donné, l’industrie technologique est passée de l’automatisation utile des tâches qui ralentissaient nos vies à la distorsion de la société en confiant des décisions cruciales aux ordinateurs.

Près de trois décennies après la création de Google, Web n’a fait que devenir de moreover en plus automatisé. Cela présente de nombreux avantages pour le citoyen moyen  : les recommandations sur Spotify et Netflix nous aident à trouver de nouvelles œuvres d'artwork, les robots-investisseurs peuvent aider à faire croître un pécule à faible coût et des applications industrielles telles que la robotique utilisée pour fabriquer de nombreux véhicules modernes ont créé notre économie additionally efficace. Cependant, à un moment donné, l’industrie technologique est passée de l’automatisation utile des tâches qui ralentissaient nos vies à la distorsion de la société en confiant des décisions cruciales aux ordinateurs.

À bien des égards, le document primary de Google ressemble à un sombre avertissement. Il soutient que les moteurs de recherche financés par la publicité seraient « intrinsèquement biaisés » en faveur de ces annonceurs. Il n'est donc probablement pas surprenant que les chercheurs aient découvert qu'en donnant la priorité aux investissements publicitaires plutôt qu'aux résultats utiles, l'algorithme de Google se détériore, dégradant une source d'informations cruciale pour plus de 5 milliards de personnes. Et il ne s'agit pas uniquement des moteurs de recherche. Les algorithmes axés sur les revenus derrière des réseaux comme Facebook, Instagram, TikTok et Twitter ont appris à alimenter les utilisateurs avec un flux continuous de contenu bouleversant ou enrageant pour stimuler l'engagement des utilisateurs. À mesure que le contrôle humain diminuait, les conséquences concrètes de ces algorithmes se sont accumulées : l’algorithme d’Instagram a été associé à une crise de santé mentale chez les adolescentes. Twitter a admis que sa technologie avait tendance à amplifier les tweets des politiciens de droite, des influenceurs et des sources d'info, et la predicament n'a fait qu'empirer depuis qu'Elon Musk a acheté le internet site. Cambridge Analytica a utilisé un algorithme pour explorer les données de Facebook afin d'hyper-cibler des tens of millions de personnes à l'approche du vote du Royaume-Uni en faveur de la sortie de l'Union européenne et de l'élection présidentielle américaine de 2016.

les prêteurs étant 80 % plus susceptibles de refuser les Noirs. candidats que les candidats blancs similaires.

Et ces problèmes se répercutent dans le secteur general public, empoisonnant les companies gouvernementaux avec des biais algorithmiques. Le gouvernement britannique a été confronté à un scandale national en 2020 lorsque les administrateurs ont remplacé près de 40 % des examens de niveau A des étudiants – un take a look at crucial qui peut déterminer la capacité d'un étudiant à aller à l'université – par des notes choisies de manière algorithmique. Les résultats ont considérablement mis en évidence les élèves des écoles publiques britanniques gratuites, favorisant plutôt ceux qui fréquentaient des écoles privées dans des zones riches et bouleversant la vie de nombreux jeunes. Un algorithme « d'car-apprentissage » utilisé par l'administration fiscale néerlandaise a faussement pénalisé des dizaines de milliers de personnes pour avoir prétendument fraudé le système de garde d'enfants du pays, poussant les gens dans la pauvreté et conduisant à placer des milliers d'enfants dans des familles d'accueil. Aux États-Unis, ProPublica a découvert dans une enquête menée en 2016 qu'un algorithme utilisé dans plusieurs systèmes judiciaires d'État pour évaluer la probabilité qu'une personne commette un criminal offense à l'avenir était biaisé à l'encontre des Noirs américains, ce qui conduisait à des peines furthermore sévères de la aspect des juges.

Dans les secteurs public et privé, nous avons remis les clés d’une toile d’araignée d’algorithmes construits avec peu d’informations publiques sur la manière dont ils prennent leurs décisions. Cette infiltration suscite quelques réticences : la FTC cherche à réglementer la manière dont les entreprises utilisent les algorithmes, mais elle ne l'a pas encore fait de manière significative. Et furthermore largement, il semble que les gouvernements se résignent à laisser les equipment diriger nos vies.

À l’instar de la proverbiale grenouille bouillant dans une casserole d’eau, la lente prise de contrôle des algorithmes est généralement passée inaperçue auprès du grand general public. Il est facile de rater une petite modification de l'algorithme d'Instagram ou même de célébrer le logiciel fiscal qui simplifie votre déclaration. Mais maintenant, grâce à la nouvelle obscure de « l’intelligence artificielle », les gens commencent à remarquer à quel point l’eau est devenue chaude. L’enthousiasme alimenté par les investisseurs signifie que presque toutes les grandes entreprises envisagent ou intègrent activement l’IA générative – dont la plupart sont, au mieux, médiocres – dans leurs expert services. Alors que ce cycle de battage médiatique sur l’IA persiste, nous nous dirigeons vers la mort de l’Internet utile.

Dans les secteurs community et privé, nous avons remis les clés d’une toile d’araignée d’algorithmes construits avec peu d’informations publiques sur la manière dont ils prennent leurs décisions.

Les grands modèles linguistiques comme ceux derrière ChatGPT et Gemini de Google sont conçus pour extraire des informations sur World wide web available au general public et divers moteurs de recherche. Cela pose problème puisque le Website regorge de additionally en as well as de pages génériques conçues pour jouer avec le système de référencement plutôt que de fournir des informations utiles. De nombreux sites sont eux-mêmes générés par l’IA, créant un ouroboros d’informations médiocres et peu fiables. Prenez Quora, le website de questions et réponses autrefois apprécié pour ses réponses de haute qualité générées par les utilisateurs. Quora fournit désormais des réponses générées par ChatGPT d'OpenAI, qui alimentent les résultats génératifs de Google et indiquent finalement aux utilisateurs qu'ils peuvent faire fondre des œufs. Et à mesure que des dirigeants déconnectés remplacent les éditeurs humains par l’IA – comme Microsoft l’a fait avec MSN.com, conduisant à la diffusion de fausses informations à additionally d’un milliard de personnes par mois – nous entrerons dans un cycle dans lequel les modèles génératifs s’entraînent sur les restes d’un Web empoisonné par l’intelligence artificielle. contenu génératif. Même le domaine soi-disant humain des médias sociaux a été inondé de spams IA, transformant X, Fb, Reddit et Instagram en une bataille constante contre la désinformation et les escroqueries pures et simples.

Bien que l’IA générative ne soit que la dernière extension de l’algorithme, elle constitue une menace exceptional. Auparavant, les humains contrôlaient les entrées et fixaient des règles d’engagement pour les modèles tandis que les ordinateurs produisaient la sortie. Nous permettons désormais à ces modèles de définir les règles du jeu pour nous, en générant à la fois les entrées et les sorties. Nous commençons déjà à voir certains des effets délétères : en 2023, la Nationwide Feeding on Disorders Affiliation a remplacé son personnel d'aid téléphonique humaine par un chatbot IA, pour ensuite devoir le retirer peu de temps après lorsqu'elle a commencé à donner des conseils nocifs en matière de perte de poids.

Pour le reste d’entre nous, il semble que nos vies soient de furthermore en plus dictées par la boîte noire des algorithmes, et nous savons remark cela se passe. L’automatisation peut être utile pour étendre et accélérer les opérations d’une entreprise ou d’un gouvernement, mais le compromis se traduit presque toujours par des souffrances humaines : licenciements, maintien de l’ordre injuste, pertes financières, environnement médiatique déformé. Même la moreover grande resource d'details au monde – Online – est sur le place d'être submergée par du contenu créé pour faire appel à des algorithmes ou par du contenu généré par les algorithmes eux-mêmes, mettant de côté le matériel unique, intéressant et précieux généré par l'homme qui a rendu Online spécial..

L’IA n’est pas nouvelle en ce sens, mais elle constitue une accélération de la tendance à exclure les gens des machinations du monde qui les entoure. Peut-être qu’une superintelligence omnipotente n’a jamais été une chose à craindre. La véritable menace était peut-être la cupidité qui conduirait les entreprises à se décharger volontairement de processus critiques au issue que le contrôle humain soit submergé par une drive cancéreuse – des simulacres informés par des simulacres émettant des appels du monde réel qui érodent la capacité de décider par nous-mêmes.

Ed Zitron est le PDG d'EZPR, une agence nationale de relations publiques dans le domaine de la technologie et des affaires. Il est également l'auteur du bulletin d'data technologique et culturel Where by's Your Ed At et l'animateur du podcast « Much better Offline ».