ouvrant la voie à une surveillance juridique de la technologie de l’IA qui a promis de transformer la vie quotidienne et a suscité des avertissements sur les dangers existentiels pour l’humanité.
Les négociateurs du Parlement européen et des 27 pays membres du bloc ont surmonté de grandes divergences sur des points controversés, notamment l’IA générative et l’utilisation par la police de la surveillance par reconnaissance faciale pour signer un accord politique provisoire sur la loi sur l’intelligence artificielle.
« Accord ! » » a tweeté le commissaire européen Thierry Breton peu avant minuit. « L’UE devient le tout premier continent à établir des règles claires pour l’utilisation de l’IA. »
Le résultat est intervenu après un marathon de négociations à huis clos cette semaine, la première session ayant duré 22 heures avant le coup d’envoi d’un deuxième tour vendredi matin.
Les responsables étaient sous le feu des projecteurs pour assurer une victoire politique à la législation phare. Les groupes de la société civile lui ont cependant réservé un accueil froid en attendant les détails techniques qui devront être réglés dans les semaines à venir. Ils ont déclaré que l’accord n’allait pas assez loin dans la protection des personnes contre les dommages causés par les systèmes d’IA.
« L’accord politique d’aujourd’hui marque le début d’un travail technique important et nécessaire sur des détails cruciaux de la loi sur l’IA, qui manquent encore », a déclaré Daniel Friedlaender, chef du bureau européen de la Computer and Communications Industry Association, un groupe de pression de l’industrie technologique.
L’UE a pris très tôt les devants dans la course mondiale à l’élaboration de garde-fous en matière d’IA lorsqu’elle a dévoilé la première version de son règlement en 2021. Le récent boom de l’IA générative a cependant poussé les responsables européens à se démener pour mettre à jour une proposition prête à servir de modèle. pour le monde.
un législateur italien co-dirigeant les efforts de négociation de l’organisme.
« C’est très très bien », a-t-il déclaré par SMS après qu’on lui ait demandé s’il contenait tout ce qu’il voulait. « Bien sûr, nous avons dû accepter certains compromis, mais dans l’ensemble, c’est très bien. » L’éventuelle loi n’entrera pleinement en vigueur qu’en 2025 au plus tôt et prévoit de lourdes sanctions financières en cas de violation pouvant atteindre 35 millions d’euros (38 millions de dollars), soit 7 % du chiffre d’affaires mondial d’une entreprise.
Les systèmes d’IA générative comme ChatGPT d’OpenAI ont explosé dans la conscience du monde, éblouissant les utilisateurs avec leur capacité à produire des textes, des photos et des chansons de type humain, mais suscitant des craintes quant aux risques que cette technologie en développement rapide fait peser sur l’emploi, la protection de la vie privée et des droits d’auteur et même sur la vie humaine. lui-même.
Aujourd’hui, les États-Unis, le Royaume-Uni, la Chine et des coalitions mondiales comme le Groupe des 7 grandes démocraties se sont lancés dans cette démarche avec leurs propres propositions visant à réglementer l’IA, même s’ils sont encore en train de rattraper l’Europe.
Des règles strictes et complètes de l’UE « peuvent constituer un exemple puissant pour de nombreux gouvernements envisageant de réglementer », a déclaré Anu Bradford, professeur à la Columbia Law School et expert en droit européen et en réglementation numérique. D’autres pays « ne copieront peut-être pas toutes les dispositions, mais en imiteront probablement de nombreux aspects ».
Les entreprises d’IA soumises aux règles de l’UE étendront probablement également certaines de ces obligations en dehors du continent, a-t-elle déclaré. « Après tout, il n’est pas efficace de recycler des modèles distincts pour différents marchés », a-t-elle déclaré.
La loi sur l’IA a été conçue à l’origine pour atténuer les dangers liés à des fonctions spécifiques de l’IA en fonction de leur niveau de risque, de faible à inacceptable. Mais les législateurs ont poussé à l’étendre aux modèles de base, les systèmes avancés qui sous-tendent les services d’IA à usage général comme ChatGPT et le chatbot Bard de Google.
Les modèles de fondations semblent être l’un des principaux points de friction pour l’Europe. Cependant, les négociateurs ont réussi à parvenir à un compromis provisoire au début des négociations, malgré l’opposition menée par la France, qui a plutôt appelé à l’autorégulation pour aider les entreprises européennes d’IA générative à rivaliser avec leurs grands rivaux américains, y compris Microsoft, le bailleur de fonds d’OpenAI.
Également connus sous le nom de grands modèles de langage, ces systèmes sont formés sur de vastes quantités d’œuvres écrites et d’images récupérées sur Internet. Ils donnent aux systèmes d’IA générative la capacité de créer quelque chose de nouveau, contrairement à l’IA traditionnelle, qui traite les données et accomplit les tâches en utilisant des règles prédéterminées.
Les entreprises qui construisent des modèles de base devront rédiger une documentation technique, se conformer à la législation européenne sur le droit d’auteur et détailler le contenu utilisé pour la formation. Les modèles de fondations les plus avancés qui présentent des « risques systémiques » feront l’objet d’un examen plus approfondi, notamment en évaluant et en atténuant ces risques, en signalant les incidents graves, en mettant en place des mesures de cybersécurité et en rendant compte de leur efficacité énergétique.
Les chercheurs ont averti que de puissants modèles de fondation, construits par une poignée de grandes entreprises technologiques, pourraient être utilisés pour intensifier la désinformation et la manipulation en ligne, les cyberattaques ou la création d’armes biologiques.
Les groupes de défense des droits préviennent également que le manque de transparence sur les données utilisées pour entraîner les modèles présente des risques pour la vie quotidienne, car elles constituent des structures de base pour les développeurs de logiciels qui créent des services basés sur l’IA.
Le sujet le plus épineux était celui des systèmes de surveillance par reconnaissance faciale basés sur l’IA, et les négociateurs ont trouvé un compromis après d’intenses négociations.
Les législateurs européens souhaitaient une interdiction totale de l’utilisation publique de la numérisation faciale et d’autres systèmes « d’identification biométrique à distance » en raison de problèmes de confidentialité. Mais les gouvernements des pays membres ont réussi à négocier des exemptions afin que les forces de l’ordre puissent les utiliser pour lutter contre des crimes graves comme l’exploitation sexuelle des enfants ou les attaques terroristes.
Les groupes de défense des droits se sont déclarés préoccupés par les exemptions et autres lacunes importantes de la loi sur l’IA, notamment le manque de protection des systèmes d’IA utilisés dans le contrôle des migrations et des frontières, et la possibilité pour les développeurs de refuser que leurs systèmes soient classés comme à haut risque.
« Quelles qu’aient été les victoires lors de ces négociations finales, il n’en reste pas moins que d’énormes défauts subsisteront dans ce texte final », a déclaré Daniel Leufer, analyste politique principal au groupe de droits numériques Access Now.
___
Le journaliste technique Matt O’Brien de Providence, Rhode Island, a contribué à ce rapport.
