Les dirigeants du secteur technologique ont exprimé leur inquiétude quant au fait que le développement de l’intelligence artificielle soit concentré entre les mains d’un trop petit nombre d’entreprises, ce qui pourrait leur donner un contrôle excessif sur une technologie en évolution rapide.
Une explosion d’intérêt pour l’IA a été déclenchée par ChatGPT d’OpenAI à la fin de l’année dernière grâce à la nouvelle manière dont le chatbot peut répondre aux invites des utilisateurs.
Sa popularité a contribué au début de ce que de nombreux acteurs de l’industrie technologique ont appelé une course aux armements en matière d’IA, alors que des géants de la technologie, dont Microsoft et Google, cherchent à développer et à lancer leurs propres modèles d’intelligence artificielle.
Ceux-ci nécessitent d’énormes quantités de puissance de calcul car ils sont formés sur d’énormes quantités de données.
« À l’heure actuelle, seule une poignée d’entreprises disposent des ressources nécessaires pour créer ces modèles d’IA à grande échelle et les déployer à grande échelle. Et nous devons reconnaître que cela leur donne un pouvoir démesuré sur nos vies et nos institutions », a déclaré Meredith Whittaker.
président de l’application de messagerie cryptée Signal, a déclaré à CNBC dans une interview la semaine dernière.
« Nous devrions vraiment nous inquiéter, encore une fois, du fait qu’une poignée d’entreprises motivées par le profit et le rendement des actionnaires prennent des décisions aussi lourdes de conséquences sociales. »
Whittaker a passé 13 ans chez Google, mais a été déçue en 2017 lorsqu’elle a découvert que le géant de la recherche travaillait sur un contrat controversé avec le ministère de la Défense connu sous le nom de Projet Maven.
Whittaker s’est inquiété du fait que l’IA de Google pourrait potentiellement être utilisée pour la guerre des drones et a aidé à organiser un débrayage dans l’entreprise impliquant des milliers d’employés.
« L’IA, telle que nous la comprenons aujourd’hui, est fondamentalement une technologie dérivée du pouvoir et du contrôle centralisés des entreprises », a déclaré Whittaker.
« Il repose sur les ressources concentrées qui ont appartenu à une poignée de grandes entreprises technologiques, en grande partie basées aux États-Unis et en Chine via le modèle économique de la publicité de surveillance, qui leur a fourni une infrastructure informatique puissante et d’énormes quantités de données ; de vastes marchés d’où puiser leurs ressources.
ces données ; et la capacité de traiter et de structurer ces données de manière utile pour créer de nouvelles technologies. «
Whittaker n’est pas le seul à partager ce point de vue.
Frank McCourt, l’ancien propriétaire de l’équipe de baseball des Los Angeles Dodgers, dirige désormais Project Liberty, une organisation qui cherche à motiver les technologues et les décideurs politiques « à construire une approche plus responsable du développement technologique », selon son site Internet.
McCourt pense également que l’IA pourrait donner trop de pouvoir aux géants de la technologie. Il a déclaré qu’il y avait « essentiellement cinq sociétés qui disposent de toutes les données », sans toutefois les nommer.
« Les grands modèles de langage nécessitent d’énormes quantités de données.
Si nous n’apportons pas de changements ici, le jeu est terminé. Seules ces mêmes plates-formes prévaudront. Et elles en seront les bénéficiaires », a déclaré McCourt à CNBC dans une interview la semaine dernière..
« Bien sûr, les gens viendront construire de petites choses sur ces grandes plateformes. Mais ce sont les grandes plateformes sous-jacentes qui contrôlent ces données qui seront les gagnantes. »
Whittaker et McCourt font partie de ceux qui estiment que les utilisateurs ont perdu le contrôle de leurs données en ligne et que celles-ci sont exploitées par les géants de la technologie pour alimenter leurs profits.
« Les géants de la technologie et des médias sociaux infligent de profonds dommages à notre société », indique le manifeste Project Liberty de McCourt. Et il pense que l’IA pourrait aggraver la situation.
« Ne nous y trompons pas, l’IA générative est un nom sophistiqué pour une utilisation plus puissante de nos données », a déclaré McCourt dans son interview à CNBC.
L’IA générative est la technologie qui décrit des applications comme ChatGPT. Les modèles qui sous-tendent ces applications sont formés sur de grandes quantités de données.
« L’IA générative construite avec de grands modèles de langage est fondamentalement une version améliorée ou plus puissante de la technologie dont nous disposons actuellement, sous un nom fantaisiste.
Il s’agit d’une technologie de surveillance centralisée et autocratique. Et je suis contre cela. Et je pense que c’est le cas.
il y a beaucoup de mal dans le monde en ce moment », a déclaré McCourt.
L’inventeur du Web, Tim Berners Lee, a également exprimé ses inquiétudes quant à la concentration du pouvoir entre les géants de la technologie.
Pour Jimmy Wales, fondateur de Wikipédia, c’est l’état des médias sociaux qui est particulièrement préoccupant à l’heure actuelle.
En ce qui concerne l’IA, cependant, il estime que même si les géants de la technologie ouvrent désormais la voie, il reste encore de la place pour des perturbations.
Dans une interview accordée à CNBC la semaine dernière, le Pays de Galles a souligné une fuite d’un mémo de Google cette année dans lequel un chercheur du géant américain de la technologie a déclaré que l’entreprise n’avait « aucun fossé » dans l’industrie de l’IA, faisant référence à une menace provenant des modèles open source. Il s’agit de modèles d’IA qui n’appartiennent pas à une seule entité, comme Google ou Microsoft, et qui peuvent être développés et complétés par n’importe qui.
Celles-ci pourraient potentiellement donner lieu à la création d’applications d’IA concurrentes sans la quantité massive de ressources que cela nécessite actuellement.
« Les modèles qui existent et les modèles open source que n’importe qui peut télécharger et exécuter sur quelques machines qu’une startup peut dépenser Une formation à 50 000. ». ce n’est pas grave du tout. C’est vraiment impressionnant », a ajouté Wales.
