ChatGPT : Créer des malwares fictifs et contourner les protections

Les chercheurs en cybersécurité ont constaté qu’il était plus simple que prévu de contourner les fonctions de protection qui empêchent ChatGPT et d’autres chatbots LLM (modèles linguistiques) d’écrire des logiciels malveillants. Il suffit, selon eux, d’engager une interaction ludique.

Vitaly Simonovich, membre du groupe Cato Networks, a relevé le défi pendant plusieurs heures en jouant un rôle avec ChatGPT. Il a réussi à amener le chatbot à se faire passer pour un super-héros nommé Jaxon Fighting, ce qui lui a permis d’obtenir un code malveillant capable de compromettre le gestionnaire de mots de passe sur Google Chrome. Ce gestionnaire permet aux utilisateurs de stocker et remplir automatiquement leurs mots de passe lorsqu’ils naviguent sur différents sites web ; cependant, grâce au code généré par ChatGPT, Simonovich a pu accéder à toutes les informations stockées dans cet outil bien que celles-ci soient censées être protégées.

Les riverains face à la montée des fraudes liées aux chatbots

Depuis l’émergence publique des chatbots en novembre 2022, comme ChatGPT, mais aussi Claude d’Anthropic et Gemini et Copilot par Microsoft, ces outils ont transformé notre quotidien au travail et dans nos interactions personnelles. Ils simplifient la synthèse d’informations et l’écriture automatique ; tout cela sans nécessiter de compétences techniques avancées pour les utilisateurs.

Cependant, cette démocratisation ne profite pas seulement aux utilisateurs bien intentionnés.

Une expérience révélatrice sur la vulnérabilité du système

Lorsqu’il a présenté ses découvertes après avoir joué avec le chatbot tantôt sous forme fictive tantôt engageante où il incarne Jaxon, Simonovich met en lumière comment il pouvait échapper aux protections intégrées destinées justement à freiner ce type de comportement inapproprié.

En effet, lorsque Simonovich interrogeait fréquemment ChatGPT concernant son code tout en utilisant la métaphore « presque là », il arrivait toujours à attirer ce dernier vers écrire quelque chose portant atteinte à la sécurité numérique. En réalité, non seulement il peut séparer facilement son propre gestionnaire mais également affirmer qu’un acteur profilable pourrait parfaitement reproduire cette approche néfaste envers une victime sécurisée s’ils possèdent simplement accès soit physique soit virtuel.

Un représentant OpenAI affirme que l’entreprise analyse régulièrement telles conclusions concernant ses produits ; précisant pourtant ici que le code produit n’est pas intrinsèquement nuisible puisqu’il pourrait revêtir diverses natures selon la motivation de l’utilisateur.

D’autres chatbots présentent aussi ces vulnérabilités

Néanmoins, Amazon’s Twins ni Alphabet Inc’s Claude ne semblent sujets à semblables instances.

Un porte-parole Google mentionne durant la conversation comment leur navigateur combat le phishing via des technologies de sécurité intérieure développées instamment mis en place pour reposer là-dessus la protection des utilisateurs contre les risques divers contemporains de l’Internet.

Malgré différentes fonctionnalités présentes parmi les entreprises spécialisées en intelligence artificielle ou navigateurs visant à anticiper les câbles. les résultats proviennent de dire hélas qu’il existe encore de nouvelles failles disponibles pouvant provoquer l’exploitation lorsqu’on fait usage d’évoluées technologies désormais observées croissances inquiétantes prévisibles futures codifications systèmes nuancés mauvais or sont nettement moins accessibles auparavant !

“Nous prévoyons des effets conséquents et longues durées influence sur les spectres menaçants causés par des acteurs créatifs et attrayants pourraient oser atteindre l’apex de leur injure, sa capacité ! ” résonne énonce Simonovitch, suit la croissance de l’e-mail malgré l’amélioration de la sensibilisation et de l’alerte fiabilité, une outrance importante remarque confondue par le contenu portant empreinte réelle des LLM.