Marie Leroy
Microsoft a averti que la Chine utilisait des photographs générées par l’IA pour semer la discorde parmi les électeurs américains. De vraies personnes republient ces pictures controversées, sans se rendre compte qu’elles sont fausses, a ajouté Microsoft. L’ambassade de Chine à Washington, DC, a riposté en parlant de « spéculations malveillantes » contre la Chine.
La Chine utilise depuis mars l’IA générative pour créer du contenu viral qui divise les électeurs américains sur les réseaux sociaux – et s’améliore dans ce domaine, disent les analystes de Microsoft.
“Nous avons observé des acteurs affiliés à la Chine exploiter les médias visuels générés par l’IA dans une vaste campagne qui se concentre largement sur des sujets politiquement controversés, tels que la violence armée, et le dénigrement des personnalités et symboles politiques américains”, a écrit Clint Watts, directeur général de Microsoft Threat. Centre d’analyse.
Les analystes du centre ont publié jeudi un rapport mettant en lumière les menaces numériques provenant de la Chine et de la Corée du Nord, et ont déclaré que les brokers chinois influencent leurs cibles « dans une plus grande mesure que ce qui avait été observé auparavant ».
Microsoft a mis en garde contre les comptes de réseaux sociaux affiliés au Parti communiste chinois, qui publieraient des illustrations or photos générées par l’IA, comme une affiche Black Life Matter montrant des impacts de balle et un homme noir se rendant.
Quelques heures après la mise en ligne de l’affiche Black Lives Make any difference, un compte se faisant passer pour un électeur conservateur américain a republié l’image, se plaignant de discrimination raciale, selon Microsoft.
Un autre exemple cité était une affiche générée par l’IA de la Statue de la Liberté tenant un fusil d’assaut, accompagnée de la légende « La déesse de la violence ». Les analystes de Microsoft ont déclaré qu’il avait été publié par un compte soupçonné d’être géré dans le cadre d’une opération d’influence chinoise.
“Ce contenu visuel de relativement haute qualité a déjà suscité des niveaux d’engagement in addition élevés de la portion des utilisateurs authentiques des médias sociaux”, préviennent les analystes.
Ils ont ajouté que les nouvelles photos sont as well as accrocheuses et que les vrais électeurs américains les republient même si elles contiennent des « indicateurs communs de génération d’IA », comme moreover de cinq doigts sur une principal.
Il est désormais également in addition difficile de déterminer si ces comptes ne sont pas authentiques, ont déclaré les analystes de Microsoft.
“Contrairement aux précédentes campagnes d’OI menées par des acteurs affiliés au PCC qui utilisaient des identifiants, des noms d’affichage et des pics de profil générés par ordinateur faciles à repérer, ces comptes moreover sophistiqués sont gérés par de vraies personnes qui emploient des identités fictives ou volées pour dissimuler l’affiliation des comptes. avec le PCC », ont-ils écrit.
Mais il existe des signes révélateurs, selon Microsoft. Beaucoup de ces brokers commenceraient à poster en mandarin, puis passeraient à une autre langue, a indiqué le centre de menace.
Les comptes publieraient une publication, puis commenteraient, aimeraient et partageraient les publications d’autres comptes similaires, créant ainsi un modèle dans lequel ils amélioreraient mutuellement leur contenu, a déclaré Microsoft.
“Nous pouvons nous attendre à ce que la Chine go on à perfectionner cette technologie au fil du temps, même s’il reste à voir comment et quand elle la déploiera à grande échelle”, a écrit Watts.
Certains médias et groupes de réflexion occidentaux ont accusé la Chine d’utiliser l’intelligence artificielle pour créer de fake réseaux sociaux. comptes médiatiques pour s’immiscer dans la politique américaine. De telles remarques sont pleines de préjugés et de spéculations malveillantes contre la Chine, auxquelles la Chine s’oppose fermement.
En juillet, la société de recherche en cybersécurité Mandiant a déclaré avoir découvert que des agents affiliés à la Chine avaient payé des personnes à Washington, DC, pour protester contre l’interdiction du gouvernement américain sur les produits produits dans la région du Xinjiang. Les vidéos de leurs manifestations ont ensuite été « amplifiées » par les comptes de réseaux sociaux utilisés par les activistes, a ajouté Mandiant.
Le 29 août, Meta a également mis en garde contre une campagne d’influence chinoise diffusant de fausses informations, impliquant furthermore de 7 700 comptes Fb, 950 pages Facebook, 15 groupes Fb et 15 comptes Instagram. La société de médias sociaux a déclaré qu’elle les avait tous supprimés.
