- Dimanche, le gouverneur de Californie, Gavin Newsom, a opposé son veto à un projet de loi sur la sécurité de l'intelligence artificielle.
- Le projet de loi visait à créer des mesures de sécurité pour les entreprises dépensant 100 millions de dollars en formation en IA.
- Newsom a évoqué des inquiétudes concernant l’étouffement de l’innovation, puisque la Californie domine le développement de l’IA.
Merci de votre inscription !
Accédez à vos sujets favoris dans un flux personnalisé lorsque vous êtes en déplacement. téléchargez l'application
En cliquant sur « S'inscrire », vous acceptez nos conditions d'utilisation et notre politique de confidentialité. Vous pouvez vous désabonner à tout moment en visitant notre page Préférences ou en cliquant sur « se désabonner » au bas de l'e-mail.
Le gouverneur de Californie, Gavin Newsom, a opposé son veto dimanche à un projet de loi sur la sécurité de l'intelligence artificielle, une victoire pour les poids lourds de l'IA comme OpenAI et les grandes entreprises technologiques qui ont fait pression contre ce projet.
Le projet de loi, SB 1047, a été présenté plus tôt cette année par le sénateur Scott Weiner et adopté par l'Assemblée de l'État de Californie le mois dernier. Il visait à imposer le développement de mesures de sécurité aux entreprises qui dépensent 100 millions de dollars ou plus pour former des modèles d’IA afin que leur technologie ne puisse pas être utilisée pour nuire à la société – une définition vague qui, selon le projet de loi, pourrait inclure la création d’armes dangereuses ou la réalisation de cyberattaques.
« Ce veto est un revers pour tous ceux qui croient à la surveillance des grandes entreprises », a déclaré dimanche le sénateur Wiener dans un communiqué.
Il y a environ deux semaines, Newsom a déclaré qu'il était préoccupé par le potentiel « effet dissuasif » du projet de loi sur le développement de l'IA. Il a déclaré qu’il ne voulait pas que la Californie perde sa domination dans le domaine de l’IA.
« Le projet de loi applique des normes strictes même aux fonctions les plus élémentaires, à condition qu'un grand système le déploie », a déclaré dimanche le gouverneur dans un communiqué. « Je ne pense pas que ce soit la meilleure approche pour protéger le public des menaces réelles posées par la technologie. »
Le projet de loi, désormais abandonné, aurait également obligé les entreprises opérant en Californie à signaler au gouvernement tout incident de sécurité résultant de leurs produits d'IA. Cela aurait protégé les lanceurs d’alerte des entreprises et permis à des tiers de tester la sécurité des modèles. Le projet de loi stipule que si nécessaire, les développeurs devraient pouvoir procéder à un arrêt complet de leurs outils d'IA.
Le débat en Californie reflète le défi auquel les gouvernements sont confrontés pour trouver le juste équilibre entre permettre aux entreprises technologiques d’innover tout en se protégeant contre de nouveaux risques potentiels. Newsom voudra peut-être également signaler que l’État est ouvert aux affaires après une série de sorties d'entreprises de grande envergure, notamment Chevron, Tesla, Oracle, Charles Schwab et CBRE.
Dans un communiqué annonçant le veto, le bureau de Newsom a également noté que le gouverneur avait signé 17 projets de loi au cours du mois dernier concernant l'IA générative, qui répriment les deepfakes et la désinformation et visent à protéger les enfants et les employés.
Soulagement des adversaires
Le veto de Newsom sera un soulagement pour de nombreuses personnes dans la Silicon Valley qui avaient critiqué le projet de loi, affirmant qu'il nuirait à l'innovation.
Histoires connexes
Le vice-président politique de Meta, Rob Sherman, a félicité Newsom pour avoir rejeté le projet de loi. Dans un article publié dimanche, il a déclaré que le projet de loi aurait « nui à la croissance des entreprises et à la création d'emplois, et brisé la longue tradition de l'État consistant à favoriser le développement open source ».
Marc Andreessen, associé général de la société de capital-risque Andreessen Horowitz, a également applaudi la décision de Newsom. Dans une déclaration sur X, il a déclaré que le veto était du côté de la croissance et de la liberté de la Californie face au « safetyisme, au catastrophisme et au déclin ».
Jason Kwon, directeur de la stratégie d'OpenAI, a averti dans une lettre adressée au sénateur Wiener en août que le projet de loi pourrait étouffer le progrès et chasser les entreprises de Californie.
Le créateur de ChatGPT a rejoint le géant de la technologie Meta pour faire pression contre le projet de loi. Meta a déclaré que le projet de loi pourrait décourager le mouvement open source en exposant les développeurs à d'importantes responsabilités juridiques.
Andreessen Horowitz a également évoqué des préoccupations similaires en matière d'innovation et a financé une campagne de pétition contre le projet de loi.
Certes, tous les Big Tech ne se sont pas opposés au projet de loi.
Elon Musk, qui a fondé la société d'IA xAI l'année dernière, a déclaré le mois dernier que même si c'était « une décision difficile et qui va contrarier certaines personnes », il pensait que « la Californie devrait probablement adopter le projet de loi SB 1047 sur la sécurité de l'IA ».
Le PDG d'Anthropic, Dario Amodei, a semblé changer de camp au milieu du débat. En août, il a déclaré que les « avantages du projet de loi compensaient probablement les coûts ». Il a toutefois ajouté que « nous n'en sommes pas sûrs, et il y a encore certains aspects du projet de loi qui nous semblent préoccupants ou ambigus ».
Plusieurs anciens employés d'OpenAI ont également soutenu le projet de loi sur la sécurité et ont déclaré que l'opposition d'OpenAI au projet de loi était décevante.
« Nous avons rejoint OpenAI parce que nous voulions garantir la sécurité des systèmes d'IA incroyablement puissants que l'entreprise développe », ont écrit les anciens chercheurs d'OpenAI, William Saunders et Daniel Kokotajlo, dans la lettre. « Mais nous avons démissionné d'OpenAI parce que nous n'avions plus confiance dans le fait qu'elle développerait ses systèmes d'IA en toute sécurité, honnêtement et de manière responsable. »
- Gavin Newsom a opposé son veto à un projet de loi sur l'IA.
- Le projet visait à sécuriser les entreprises investissant dans l'IA.
- Newsom a exprimé des inquiétudes sur l'innovation en Californie.
- Ce veto est une victoire pour les poids lourds de l'IA.
