a déclaré Meta jeudi.
Le réseau de près de 4 800 faux comptes tentait de se constituer une audience lorsqu’il a été identifié et éliminé par l’entreprise technologique propriétaire de Facebook et Instagram. Les comptes arboraient de fausses photos, noms et lieux afin de ressembler à des utilisateurs américains ordinaires de Facebook qui se prononçaient sur des questions politiques.
Au lieu de diffuser de faux contenus comme l’ont fait d’autres réseaux, les comptes ont été utilisés pour repartager des publications de X, l’ancienne plateforme connue sous le nom de Twitter, créées par des politiciens, des médias et d’autres. Les comptes interconnectés tiraient du contenu de sources à la fois libérales et conservatrices, indiquant que son objectif n’était pas de soutenir un camp ou l’autre mais d’exagérer les divisions partisanes et d’enflammer davantage la polarisation.
Le réseau nouvellement identifié montre comment les adversaires étrangers de l’Amérique exploitent les plateformes technologiques basées aux États-Unis pour semer la discorde et la méfiance, et fait allusion aux graves menaces posées par la désinformation en ligne l’année prochaine, lorsque des élections nationales auront lieu aux États-Unis, en Inde, au Mexique, en Ukraine, Pakistan, Taiwan et d’autres pays.
« Ces réseaux ont encore du mal à développer leur audience, mais ils constituent un avertissement », a déclaré Ben Nimmo, qui mène des enquêtes sur les comportements inauthentiques sur les plateformes de Meta. « Les acteurs étrangers de la menace tentent d’atteindre les gens via Internet à l’approche des élections de l’année prochaine, et nous devons rester vigilants. »
Meta Platforms Inc.
basée à Menlo Park, en Californie, n’a pas publiquement lié le réseau chinois au gouvernement chinois, mais a déterminé que le réseau provenait de ce pays. Le contenu diffusé par ces comptes complète largement la propagande et la désinformation du gouvernement chinois qui ont cherché à gonfler les divisions partisanes et idéologiques aux États-Unis.
Pour ressembler davantage à des comptes Facebook normaux, le réseau publiait parfois des articles sur la mode ou les animaux de compagnie.
Plus tôt cette année, certains comptes ont brusquement remplacé leurs noms d’utilisateur et photos de profil à consonance américaine par de nouveaux suggérant qu’ils vivaient en Inde. Les comptes ont alors commencé à diffuser du contenu pro-chinois sur le Tibet et l’Inde, reflétant la manière dont de faux réseaux peuvent être redirigés vers de nouvelles cibles.
Meta souligne souvent ses efforts pour fermer les faux réseaux sociaux comme preuve de son engagement à protéger l’intégrité des élections et la démocratie.
Mais les critiques affirment que l’accent mis par la plateforme sur les faux comptes détourne l’attention de son incapacité à assumer sa responsabilité dans la désinformation déjà présente sur son site, qui a contribué à la polarisation et à la méfiance.
Par exemple, Meta acceptera des publicités payantes sur son site pour prétendre que les élections américaines de 2020 ont été truquées ou volées, amplifiant les mensonges de l’ancien président Donald Trump et d’autres républicains dont les affirmations concernant les irrégularités électorales ont été réfutées à plusieurs reprises. Les responsables électoraux fédéraux et étatiques ainsi que le propre procureur général de Trump ont déclaré qu’il n’y avait aucune preuve crédible que l’élection présidentielle, que Trump a perdue face au démocrate Joe Biden, ait été entachée.
Interrogée sur sa politique publicitaire, la société a déclaré qu’elle se concentrait sur les élections à venir, et non sur celles du passé, et qu’elle rejetterait les publicités qui jettent un doute infondé sur les élections à venir.
Et tandis que Meta a annoncé une nouvelle politique en matière d’intelligence artificielle qui exigera que les publicités politiques portent une clause de non-responsabilité si elles contiennent du contenu généré par l’IA, la société a autorisé d’autres vidéos modifiées créées à l’aide de programmes plus conventionnels à rester sur sa plate-forme, y compris une version numérique. vidéo éditée de Biden qui prétend qu’il est pédophile.
« C’est une entreprise qui ne peut pas être prise au sérieux et à laquelle on ne peut pas faire confiance », a déclaré Zamaan Qureshi, conseiller politique au Real Facebook Oversight Board, une organisation de leaders des droits civiques et d’experts en technologie qui ont critiqué l’approche de Meta en matière de désinformation et de désinformation. discours de haine. « Regardez ce que fait Meta, pas ce qu’ils disent. »
Les dirigeants de Meta ont discuté des activités du réseau lors d’une conférence téléphonique avec des journalistes mercredi, le lendemain de l’annonce par le géant de la technologie de ses politiques pour l’année électorale à venir, dont la plupart avaient été mises en place pour les élections précédentes.
Mais 2024 pose de nouveaux défis, selon les experts qui étudient le lien entre les réseaux sociaux et la désinformation. Non seulement de nombreux grands pays organiseront des élections nationales, mais l’émergence de programmes d’IA sophistiqués signifie qu’il est plus facile que jamais de créer des fichiers audio et vidéo réalistes susceptibles d’induire les électeurs en erreur.
« Les plateformes ne prennent toujours pas au sérieux leur rôle dans la sphère publique », a déclaré Jennifer Stromer-Galley, professeure à l’Université de Syracuse qui étudie les médias numériques.
Stromer-Galley a qualifié les projets électoraux de Meta de « modestes », mais a noté qu’ils contrastent fortement avec le « Far West » de X. Depuis l’achat de la plateforme X, alors appelée Twitter, Elon Musk a éliminé les équipes axées sur la modération du contenu, accueillant à nouveau de nombreux utilisateurs.
précédemment interdit pour discours de haine et a utilisé le site pour diffuser des théories du complot.
Les démocrates et les républicains ont réclamé des lois traitant des recommandations algorithmiques, de la désinformation, des deepfakes et des discours de haine, mais il y a peu de chances qu’une réglementation significative soit adoptée avant les élections de 2024. Cela signifie qu’il appartiendra aux plateformes de se contrôler volontairement.
Les efforts de Meta pour protéger les élections jusqu’à présent sont « un horrible aperçu de ce à quoi nous pouvons nous attendre en 2024 », selon Kyle Morse, directeur exécutif adjoint du Tech Oversight Project, une organisation à but non lucratif qui soutient les nouvelles réglementations fédérales sur les médias sociaux. « Le Congrès et l’administration doivent agir maintenant pour garantir que Meta, TikTok, Google, X, Rumble et d’autres plateformes de médias sociaux n’aident pas et n’encouragent pas activement les acteurs étrangers et nationaux qui sapent ouvertement notre démocratie. »
La plupart des faux comptes identifiés par Meta cette semaine avaient également des comptes presque identiques sur X, où certains d’entre eux retweetaient régulièrement les messages d’Elon Musk.
Ces comptes restent actifs sur X. Un message sollicitant des commentaires de la plateforme n’a pas été renvoyé.
Meta a également publié mercredi un rapport évaluant le risque que des adversaires étrangers, notamment l’Iran, la Chine et la Russie, utilisent les médias sociaux pour s’immiscer dans les élections.
Le rapport souligne que les récents efforts de désinformation de la Russie ne se sont pas concentrés sur les États-Unis mais sur leur guerre contre l’Ukraine, en utilisant la propagande des médias d’État et la désinformation dans le but de saper le soutien à la nation envahie.
Nimmo, l’enquêteur en chef de Meta, a déclaré que le retournement d’opinion contre l’Ukraine serait probablement au centre de toute désinformation que la Russie chercherait à injecter dans le débat politique américain avant les élections de l’année prochaine.
« C’est important avant 2024 », a déclaré Nimmo.
« Alors que la guerre se poursuit, nous devons surtout nous attendre à voir la Russie tenter de cibler les débats électoraux et les candidats axés sur le soutien à l’Ukraine. »
