Réseaux Sociaux : Manège de la Russie avec l’intelligence artificielle générative pour faire la désinformation

Depuis plusieurs années, Meta est confrontée à une pression croissante pour lutter contre la désinformation sur ses plateformes. Avec l'arrivée de l'IA générative, les craintes d'une escalade des campagnes de propagande se sont amplifiées. Cependant, jusqu'à présent, ces tactiques n'ont pas significativement compliqué les efforts de Meta pour détecter et contrer ces manœuvres malveillantes.

L'Usage de l'IA générative, une faible efficacité 

Les campagnes de désinformation orchestrées par la Russie ont tenté d'exploiter l'IA générative pour produire des contenus plus nombreux et sophistiqués. Cependant, David Agranovich, directeur de la cybersécurité chez Meta, souligne que cette technologie n'a apporté qu'un « gain marginal de productivité aux acteurs malintentionnés ». Loin de révolutionner la désinformation, l'IA générative a souvent généré des images de faible qualité, comme celles issues de la campagne "Doppelganger", où des erreurs flagrantes et des incohérences sont fréquentes.

Toutefois, la situation s'avère plus complexe avec X (anciennement Twitter), depuis son acquisition par Elon Musk, ce qui a conduit à des départs massifs parmi les employés de la plateforme.

Il poursuit en précisant que ces imperfections, telles que des mains mal formées ou des textes illisibles, montrent que les auteurs de ces campagnes misent davantage sur la quantité que sur la qualité. Malgré l'usage de technologies avancées, la clarté du message semble être sacrifiée au profit d'une approche de saturation, espérant ainsi que certaines de ces fausses informations puissent avoir un impact quelque part.

Vigilance de Meta face aux menaces à venir 

À l'approche des élections américaines de novembre, Meta s'attend à une intensification des campagnes de désinformation, notamment de la part de groupes affiliés au gouvernement russe. Quant au géant californien, il insiste plutôt sur l'importance de la coopération avec les autorités, les chercheurs, et d'autres entreprises technologiques pour contrer ces menaces. Toutefois, la situation s'avère plus complexe avec X (anciennement Twitter), depuis son acquisition par Elon Musk, ce qui a conduit à des départs massifs parmi les employés de la plateforme.

Faut-il noter que Meta reste déterminée à surveiller et à détecter les « comportements inauthentiques et coordonnés », un indicateur clé de ces opérations d'influence. En dépit de l'évolution technologique et des efforts renouvelés de désinformation, l'entreprise affirme que l'utilisation de l'IA générative n'a pas, pour l'heure, entravé sa capacité à contrer ces menaces.