L’avantage des connaissances peut sauver des vies, gagner des guerres et éviter des catastrophes. À la Central Intelligence Agency, l’intelligence artificielle de base – apprentissage automatique et algorithmes – remplit depuis longtemps cette mission. Désormais, l’IA générative se joint à l’effort.
Le directeur de la CIA, William Burns, affirme que la technologie de l'IA augmentera les humains, et non les remplacera. Le premier directeur de la technologie de l'agence, Nand Mulchandani, rassemble les outils. Il y a une urgence considérable : les adversaires diffusent déjà des deepfakes générés par l’IA dans le but de porter atteinte aux intérêts américains.
Ancien PDG de la Silicon Valley qui a dirigé des startups à succès, Mulchandani a été nommé à ce poste en 2022 après un passage au Joint Artificial Intelligence Center du Pentagone.
Parmi les projets de l'agence : Une application d'IA générative de type ChatGPT qui s'appuie sur des données open source (c'est-à-dire non classifiées, publiques ou disponibles dans le commerce). Des milliers d’analystes au sein des 18 agences du renseignement américain l’utilisent. D’autres projets de la CIA qui utilisent des modèles en langage large sont, sans surprise, secrets.
UN : Lorsque ces systèmes d’IA générative « hallucinent », ils peuvent parfois se comporter comme votre ami ivre dans un bar qui peut dire quelque chose qui vous pousse hors de vos limites conceptuelles normales et suscite une réflexion hors des sentiers battus. N'oubliez pas que ces systèmes basés sur l'IA sont de nature probabiliste, ils ne sont donc pas précis (ils sont sujets à la fabrication). Ainsi, pour les tâches créatives comme l’art, la poésie et la peinture, ces systèmes sont excellents. Mais je n'utiliserais pas encore ces systèmes pour faire des calculs précis ou pour concevoir un avion ou un gratte-ciel – dans ces activités, « assez près » ne fonctionne pas. Ils peuvent également être biaisés et étroitement ciblés, ce que j’appelle le problème du « trou du lapin ».
Q : À ma connaissance, la seule utilisation actuelle d'un modèle à grand langage à l'échelle de l'entreprise à la CIA est l'IA open source, appelée Osiris, qu'elle a créée pour l'ensemble de la communauté du renseignement. Est-ce exact?
UN : C'est le seul que nous ayons divulgué publiquement. Cela a été un coup de circuit absolu pour nous. Nous devrions cependant élargir la discussion au-delà des seuls LLM : à titre d'exemple, nous traitons d'énormes quantités de contenu en langue étrangère dans plusieurs types de médias, y compris la vidéo, et utilisons d'autres algorithmes et outils d'IA pour traiter cela.
Q : Le Special Competitive Studies Project, un groupe consultatif de grande envergure axé sur l'IA dans la sécurité nationale, a publié un rapport affirmant que les services de renseignement américains doivent rapidement intégrer l'IA générative, compte tenu de son potentiel perturbateur. Il fixe un calendrier de deux ans pour aller au-delà de l’expérimentation et des projets pilotes limités et « déployer des outils Gen AI à grande échelle ». Êtes-vous d'accord?
UN : La CIA s’investit à 100 % dans l’utilisation de ces technologies et leur mise à l’échelle. Nous prenons cela aussi au sérieux que nous prenons probablement n'importe quel problème technologique. Nous pensons avoir largement dépassé le calendrier initial, car nous utilisons déjà des outils Gen AI en production. La réponse la plus profonde est que nous sommes aux premiers stades d’un grand nombre de changements supplémentaires et qu’une grande partie du travail consiste à intégrer plus largement la technologie dans nos applications et nos systèmes. Ce sont les premiers jours.
Q : Pouvez-vous nommer vos partenaires modèles en grandes langues ?
UN : Je ne suis pas sûr que nommer les fournisseurs soit intéressant pour le moment. Il y a actuellement une explosion de LLM disponibles sur le marché. En tant que client intelligent, nous ne lions pas notre bateau à un ensemble spécifique de LLM ou à un ensemble spécifique de fournisseurs. Nous évaluons et utilisons pratiquement tous les LLM les plus performants, qu'ils soient de qualité commerciale ou open source. Nous ne considérons pas le marché du LLM comme un marché unique où un seul laboratoire est meilleur que les autres. Comme vous le constatez sur le marché, les modèles se surpassent à chaque nouvelle version.
Q : Quels sont les cas d'utilisation les plus importants à la CIA pour les modèles en grand langage ?
UN : Le primaire est le résumé. Il est impossible pour un analyste open source de la CIA de digérer la mine de médias et d'autres informations que nous collectons chaque jour. Cela a donc changé la donne en termes d’informations sur le sentiment et les tendances mondiales. Les analystes approfondissent ensuite les détails. Ils doivent être capables – en toute certitude – d’annoter et d’expliquer les données qu’ils citent et la manière dont ils parviennent à leurs conclusions. Notre métier n’a pas changé. Les éléments supplémentaires donnent aux analystes une perspective beaucoup plus large – à la fois les éléments classifiés et open source que nous rassemblons.
Q : Quels sont les plus grands défis liés à l’adaptation de l’IA générative au sein de l’agence ?
UN : Il n’y a pas beaucoup de résistance culturelle en interne. Nos collaborateurs sont quotidiennement confrontés à l’IA de manière compétitive. Évidemment, le monde entier est en feu avec ces nouvelles technologies et les incroyables gains de productivité. L’astuce consiste à faire face aux contraintes que nous avons sur la compartimentation de l’information et sur la façon dont les systèmes sont construits. Dans de nombreux cas, la séparation des données n’est pas motivée par des raisons de sécurité mais plutôt par des raisons juridiques. Comment connecter efficacement les systèmes pour bénéficier des avantages de l’IA tout en gardant tout cela intact ? Certaines technologies vraiment intéressantes émergent pour nous aider à réfléchir à cela et à combiner les données de manière à maintenir le cryptage et les contrôles de confidentialité.
Q : L’IA générative est actuellement aussi sophistiquée qu’un élève du primaire. Le travail de renseignement, en revanche, est réservé aux adultes. Il s’agit d’essayer de percer la tromperie de l’adversaire. Comment la génération AI s’intègre-t-elle dans ce travail ?
UN : Soulignons d’abord que l’analyste humain a la primauté. Nous disposons des plus grands experts mondiaux dans leurs domaines. Et dans de nombreux cas d’informations entrantes, une énorme quantité de jugement humain est impliqué pour évaluer son importance et sa signification – y compris de la part des individus qui peuvent les fournir. Nous n’avons pas de machines qui reproduisent tout cela. Et nous ne recherchons pas d'ordinateurs pour faire le travail d'experts dans un domaine.
Ce que nous examinons, c'est le modèle copilote. Nous pensons que la génération IA peut avoir un impact énorme sur le brainstorming, en proposant de nouvelles idées. Et en augmentant la productivité – et la visibilité. Nous devons être très déterministes quant à la manière dont nous procédons car, utilisés correctement, ces algorithmes sont une force pour le bien. Mais mal utilisés, ils peuvent vraiment vous blesser.
