La startup croate SPLXAI a récemment levé 7 millions d’euros pour développer des outils de sécurité destinés à protéger les systèmes d’intelligence artificielle (IA) contre diverses vulnérabilités. Alors que les cyberattaques deviennent plus fréquentes, son PDG souligne l’importance cruciale d’examiner et de sécuriser ces technologies dès leur adoption.
Une levée de fonds significative
SPLXAI a réussi à lever un montant total de 7 millions d’euros lors d’un tour de financement dirigé par LaunchHub Ventures avec la participation d’autres investisseurs tels que Capital Rain, Runtime Ventures, Inovo, DNV Ventures et South Central Ventures.
Un contexte préoccupant
L’intégration rapide de l’IA dans le monde des affaires soulève des inquiétudes quant à sa sécurité. Selon une enquête menée par le Forum économique mondial en 2023, plus de la moitié des dirigeants interrogés estiment que l’IA générative donne un avantage aux cyberattaquants sur les entreprises. De même, une étude récente d’Accenture auprès de 600 responsables en cybersécurité bancaire révèle qu’environ 80% pensent que cette technologie aide les pirates informatiques à s’organiser plus rapidement.
Une méthodologie innovante
Avant chaque mise en service pour ses clients, SPLXAI utilise un questionnaire ciblé pour évaluer ce que représente le risque pour chacun. Les questions posées incluent : « Y a-t-il des questions auxquelles votre chatbot ne devrait pas répondre ? » ou « Quelles parties de l’invite sont confidentielles ? »
Tests approfondis
Une fois personnalisée leur approche, la société procède à plusieurs tests pouvant simuler jusqu’à 2 000 attaques et effectuer 17 scans en moins d’une heure. Parmi ces tests figurent :
- Des attaques par injection rapide
- La vérification susceptible au biais
- L’analyse du contenu nuisible ou malveillant
Kamber indique que cela a exposé divers types de vulnérabilités dans la technologie actuellement utilisée par certaines entreprises. Il précise : « Nous avons découvert un biais sexiste dans un outil qui conseillait des carrières aux étudiants ».
Impact notoire sur différents segments
SPLXAI effectue également ses tests sur divers outils utilisés dans différentes industries. Par exemple :
- Sur un logiciel populaire utilisé en milieu professionnel révélant qu’il pourrait permettre fuite entre collègues
- Des chatbots médicaux ayant donné incorrectes instructions aux patients
Son analyse permet non seulement d’identifier ces failles mais aussi fournit aux clients un rapport détaillé avec suggestions sur comment remédier aux dangers identifiés.
Un futur orienté vers la sécurité offensive
Cela devient essentiel puisque selon lui : « Personne n’achèvera notre plateforme si elle ne propose pas autre chose qu’une série entière test et recommandations ».
Kamber conclut avec préoccupation mais optimisme : « L’année dernière, personne ne comprenait pleinement pourquoi une équipe rouge dédiée était nécessaire ; aujourd’hui tout le monde se tourne vers nous».
Face aux évolutions rapides et souvent dramatiques du paysage numérique moderne où l’intelligence artificielle devient omniprésente, il est évident que garantir sa sécurité sera déterminant pour le succès durable des entreprises adoptant ces innovations technologiques.
