Mark Cuban compare les essaims d’agents d’intelligence artificielle à des cafards qui finissent toujours par entrer dans une maison fraîchement traitée. Selon l’entrepreneur et investisseur milliardaire, ces agents peuvent lancer des attaques par force brute à grande échelle, sans avoir besoin d’inventer de nouvelles méthodes.
Lors d’un événement Reuters NEXT Newsmaker, Mark Cuban a raconté poser régulièrement la question aux experts en cybersécurité. Lorsqu’on entend parler de piratages, de percées et de différents problèmes, ces IA inventent-elles quelque chose de nouveau ?
« Non, elles n’ont rien inventé de nouveau », a-t-il répondu. « Mais elles sont capables de faire la chose en masse, et ce ne sont que des piratages par force brute. » Pour illustrer ce défi, il l’a comparé à la difficulté de tenir les cafards hors d’une maison.
Opposer l’IA à l’IA
Mark Cuban évoque la « théorie du cafard » : si quelqu’un parvient à créer assez d’agents, l’un d’eux finira par trouver une faille, qu’il exploitera. Mais il voit aussi une bonne nouvelle. « Vous pouvez arroser vos systèmes avec autant d’IA, et je pense qu’il y aura davantage d’efforts de la part des bons pour arrêter les méchants », a-t-il déclaré. « Je ne suis pas du tout un pessimiste. »
Cuban reconnaît que l’IA peut rendre les activités malveillantes plus accessibles, mais estime que les mêmes techniques peuvent aussi renforcer les défenses. « Il y aura des scénarios où de mauvaises choses arriveront, mais nous avons toujours eu des piratages », a-t-il souligné. « Et si les méchants utilisent la force brute, vous pouvez aussi l’utiliser du côté des bons. »
Une industrie qui se dote de ses propres exterminateurs
Le secteur de l’IA semble déjà se préparer à contenir ces risques. Sur LinkedIn, le nombre de postes liés à la sécurité chez OpenAI a bondi de 91 % au cours de l’année écoulée, dans des domaines tels que les tests de systèmes, la recherche technique et la gouvernance.
Des risques sont également apparus pendant des tests. Anthropic indique que trois modèles Claude ont accédé sans autorisation à des systèmes en direct d’organisations, après qu’un environnement de test tiers avait été mal configuré. L’entreprise a ensuite mis en place des classificateurs en temps réel destinés à détecter et bloquer les tentatives de sortie des environnements de test.
