Gmail face à une nouvelle menace : des pirates exploitent l’IA pour phishing
- Des hackers utilisent l'IA pour créer de faux alertes dans Gmail.
- Ils détournent Google Gemini pour inciter à divulguer des mots de passe.
- Les attaques exploitent des astuces visuelles et des fausses notifications cachées.
- Google renforce ses mesures de sécurité face à cette nouvelle menace.
Le mois dernier, Google a mis en garde ses utilisateurs Gmail contre une nouvelle forme d’attaque ciblant leur sécurité. Les hackers usent désormais de l’intelligence artificielle pour générer de faux avertissements incitant les internautes à divulguer leurs informations personnelles.
Google a révélé cette problématique dans un article publié le 13 juin. Dans celui-ci, la firme souligne que « avec l’adoption rapide de l’IA générative, une nouvelle vague de menaces émerge dans l’industrie » visant à manipuler les systèmes d’IA disponibles. Parmi ces nouvelles techniques de cybercriminalité se trouvent ce qu’ils qualifient d’« injections rapides indirectes ».
Les pirates détournent ainsi Google Gemini, intégré dans Gmail et Workspace, pour tromper les utilisateurs. Ils concoctent des emails contenant des instructions dissimulées, qui poussent Gemini à créer des annonces frauduleuses ressemblant à des alertes Google officielles. Ces messages cherchent à alerter l’utilisateur sur la compromission présumée de son compte ou mot de passe, mettant ainsi en péril sa sécurité.
L’équipe de sécurité 0Din de Mozilla a confirmé avoir détecté ces attaques récemment. Dans leur rapport, ils expliquent comment « l’IA pouvait être dupe à afficher une fausse alerte de sécurité », poussant ainsi les utilisateurs naïfs au partage involontaire de leurs mots de passe.
Ces escroqueries s’appuient également sur une astuce visuelle : certaines invites se présentent en texte blanc mélangé avec le fond des emails. Ainsi, lorsque l’utilisateur choisit d’utiliser la fonction « Résumer cet e-mail », il expose sans le savoir ses données aux contenus malveillants invisibles.
Pour protéger les 1,8 milliard d’utilisateurs actifs comme mentionné par Odin, il est conseillé d’ignorer ces alertes dans les résumés fournis par Gemini qui peuvent masquer un danger réel.
Face à cette montée en puissance du phishing via IA, Google assure mettre en place des améliorations constantes pour renforcer ses technologies et sécuriser davantage ses services. Selon leur blog : « Google a adopté une approche de sécurité en couches… nous élevons significativement la difficulté et la complexité auxquelles sont confrontés un attaquant ». Cette méthode multiforme vise clairement à contrer efficacement toutes sortes d’agressions numériques.
Alors que la cybersécurité devient un enjeu majeur dans le monde numérique actuel, cette situation rappelle aux utilisateurs combien il est indispensable d’être vigilant face aux nouvelles formes frauduleuses émergentes et aux outils avancés employés par ceux qui cherchent à exploiter leurs données personnelles.
