Cette séance de concerns-réponses est basée sur une discussion avec Ben Buchanan, conseiller du Bureau de la politique scientifique et technologique de la Maison Blanche et de l’administration Biden.
Le président Biden a signé lundi un nouveau décret exigeant une plus grande transparence de la aspect des grandes entreprises technologiques sur le développement de modèles et d’outils d’intelligence artificielle et de nouvelles règles sur la manière dont la technologie est utilisée. C’est peut-être trop peu, trop tard.
Le vaste décret aborde plus d’une douzaine d’utilisations possibles de l’IA et de l’IA générative qui ont déjà, ou pourraient à l’avenir, avoir un impact immediate sur la vie des gens.
Comme lorsque la technologie de l’IA est utilisée dans la prise de décisions d’entreprise liées au logement, à l’embauche ou même aux peines de prison. Cela exige également un nouveau niveau de transparence de la element des entreprises engagées dans la création et le développement d’outils d’IA.
Tous les grands modèles de langage et outils d’IA associés publiés l’année dernière par Meta, Google, Microsoft, OpenAI et d’autres ne sont pas soumis aux assessments de sécurité décrits dans le décret.
Le seuil de taille est si élevé qu’actuellement, la plupart des modèles disponibles ne répondent pas aux critères de transparence accrue exigés par le décret de Biden. Bien que toutes les grandes entreprises technologiques aient convenu in addition tôt cette année d’adhérer à des normes de responsabilité et de development dans leur travail en matière d’IA.
Les entreprises qui atteignent le seuil devront informer le gouvernement fédéral de leur travail et partager les résultats des exams de sécurité avant de les rendre publics.
qui travaille à la Maison Blanche de Biden depuis 2021, as well as récemment en tant que conseiller spécial sur l’IA.
un entretien de 8 minutes.
éditée pour additionally de longueur et de clarté, voir ci-dessous :
À quelle fréquence avez-vous parlé aux dirigeants des grandes entreprises technologiques à l’approche de ce décret ? J’ai entendu, par exemple, que la Maison Blanche s’adressait assez fréquemment à Andrew Bosworth de Meta, plusieurs fois par mois.
Nous avons eu des conversations à haut niveau avec toutes les entreprises, mais pas vraiment à propos de l’EO.
Nous avons eu de nombreuses conversations au sein de l’entreprise sur les engagements volontaires que nous avons mis en œuvre en juillet. Je ne pense pas que quiconque ait parlé en particulier à Andrew Bosworth depuis juillet, lorsque nous avons mis en œuvre les engagements volontaires. Mais nous nous sommes engagés à ce niveau et au niveau du PDG lors de la préparation.
Depuis lors, nous avons discuté avec les entreprises, mais davantage sur les engagements volontaires que sur l’EO.
Y a-t-il eu quelque selected dans les engagements volontaires, pendant que vous y travailliez, qui a constitué un issue de friction pour les entreprises et qui a suscité de nombreuses réactions ?
Nous entretenions une relation assez collaborative et nous avions des normes assez élevées à cet égard. Les entreprises l’ont reconnu et savent qu’elles doivent développer des produits sûrs, sécurisés et dignes de confiance.
Je pense que nous sommes arrivés au bon endroit.
Dans l’ordonnance, il est dit que les entreprises qui développent un modèle de fondation qui présente un risque sérieux pour la sécurité nationale devront être additionally transparentes et divulguer leurs assessments de sécurité, et cetera. Cela couvre-t-il la plupart des personnes développant un LLM, ou y a-t-il une certaine taille ou un selected seuil que quelqu’un doit atteindre pour être tenu de faire cette divulgation ?
Il y a un seuil et nous avons essayé de rendre la fiche d’information un peu additionally uncomplicated, mais vous verrez dans le décret lui-même lorsque le texte sortira, que le seuil s’applique aux modèles qui utilisent as well as de 10 au 26ème FLOP en entraînement.
Ce seuil est réglable par le ministère du Commerce. La technologie évolue très rapidement dans ce domaine, mais c’est le seuil de référence. Et puis, il y a un seuil additionally bas s’il s’agit d’un modèle formé principalement sur des données de séquence biologique en raison du risque accru dans cet espace.
Il est le 23 10 pour la bio, mais de manière générale, c’est le 26 10.
C’est vraiment gros, énorme. Que se passe-t-il lorsque quelqu’un, hypothétiquement, vous donne des données de formation signalées par une agence fédérale ? Quel est le processus alors ? Est-ce que tout s’arrête et que l’entreprise est en difficulté ?
Une grande partie de cela est encore en développement.
Aux ministères, nous expliquons dans l’EO la route du déplacement ici.
Vous pouvez imaginer qu’il existe une sorte d’autorité légale qui entrerait en jeu, selon le drapeau. Hypothétiquement, s’il y avait un risque nucléaire provenant d’un système, vous impliqueriez la loi sur l’énergie atomique, and many others.
Il s’agit donc d’obtenir les bonnes informations et de faire intervenir les autorités compétentes.
Vous pourriez également imaginer un monde dans lequel le Congrès adopterait une législation qui s’appuierait sur ce que nous faisons ici et établirait un régime de licences. Et beaucoup de membres du Congrès en ont parlé.
Nous ne prenons pas situation là-dessus. Mais ce que nous faisons ici, c’est fixer une course à suivre pour le gouvernement américain, qui doit s’assurer que ces systèmes sont sûrs, sécurisés et dignes de confiance avant leur déploiement.
Une grande partie de l’ordre est une directive invitant ces diverses agences à agir.
De combien de temps disposent-ils pour fixer ces normes ?
En ce qui concerne les règlements de la Loi sur la manufacturing de défense qui obligent la divulgation, cela fait 90 jours. Les entreprises effectuent déjà de nombreux assessments de l’équipe rouge. L’élaboration des normes pourrait être un peu plus longue que cela, mais il existe des orientations provisoires sur les normes dans l’EO lui-même qui reflètent largement ce que nous avons convenu dans les engagements volontaires, disant que c’est le genre de choses pour lesquelles vous devez travailler en équipe rouge.
La transparence demandée, s’agit-il uniquement des modèles à venir ou des modèles actuels déjà déployés ? Est-ce que cela s’applique rétroactivement d’une manière ou d’une autre ?
Les engagements volontaires s’appliquent aux futurs modèles. C’est difficile à faire comme vous pouvez l’imaginer, difficile de faire des tests préalables à l’équipe rouge pour un modèle qui existe.
Je ne ferai pas de commentaire sur le battage médiatique concernant les domaines dans lesquels vous devriez investir, mais je pense que du level de vue du gouvernement, nous pensons qu’il existe de réelles opportunités ici et nous pensons qu’il existe de réels risques. Nous ne prendrions pas cette mesure globale et accélérée si nous pensions que tout cela allait disparaître en une semaine. C’est une priorité pour le Président et son équipe.
En termes d’être derrière la technologie. La technologie a eu un peu d’avance, mais je pense que nous avons agi très rapidement pour rattraper notre retard.
Une chose que je souligne est que nous avons obtenu un accord du G7 sur le tout leading code de conduite worldwide sur l’IA, qui s’appuie sur les engagements volontaires qui ont été signés par les sept gouvernements du G7.
Les États-Unis travaillent en collaboration avec leurs alliés et partenaires et agissent très rapidement.
BB : À ma connaissance, nous n’avons pas ChatGPT sur les systèmes ici, mais nous utilisons tous l’IA au quotidien dans notre vie quotidienne.
Contactez-nous en utilisant un appareil non professionnel.
