Arnaques amoureuses sur Internet : Meta révèle les manèges des cybercriminels utilisant l’IA générative

L'entreprise dénonce une nouvelle méthode de cybercriminalité où les fraudeurs utilisent des avatars vidéo et des voix synthétiques pour se faire passer pour de fausses identités et manipuler leurs victimes.

#Meta a utilisé des livres 📘piratés pour entraîner son IA
les dirigeants et ingénieurs étaient parfaitement au courant
Les mails montrent l’ampleur de la fraude.https://t.co/GIJ1mvIJhd

— fabienne billat (@fadouce) February 12, 2025

Lors d'une conférence de presse, David Agranovich, responsable des menaces mondiales chez Meta, a cité un groupe de cybercriminels opérant depuis le Cambodge. Ce réseau cible principalement des personnes parlant japonais et chinois. Selon des chercheurs d’OpenAI, les escrocs auraient utilisé ChatGPT pour créer et traduire leurs contenus frauduleux.

Une IA au service des escrocs

Les cybercriminels exploitent les capacités de l’IA pour créer des profils plus vrais que nature et établir une relation de confiance avec leurs victimes. Ils n’hésitent pas à simuler des appels vidéo avec des avatars ultra-réalistes et des voix artificielles, les rendant difficiles à détecter. Leur stratégie repose sur des mois de manipulation psychologique afin de soutirer de l’argent ou des informations personnelles.

Avec la génération automatique de faux profils et la synthèse vocale, les cybercriminels n’ont même plus besoin d'intervenir directement.

Meta précise que ces arnaqueurs ne se limitent pas à une seule plateforme. Ils opèrent sur plusieurs réseaux sociaux, compliquant leur traque. L'entreprise a développé des outils basés sur des schémas comportementaux plutôt que l’analyse d’images pour mieux détecter ces fraudes.

Une période propice aux escroqueries

Les arnaqueurs profitent du contexte émotionnel pour frapper. L’isolement hivernal et l’approche de la Saint-Valentin rendent certaines personnes plus vulnérables aux démarches romantiques en ligne. Meta appelle ses utilisateurs à une extrême vigilance, rappelant les signaux d'alerte : demandes d’argent précipitées, situations d’urgence simulées et histoires trop parfaites.

Rachel Tobac, experte en cybersécurité chez Meta, conseille d’être « poliment paranoïaque » face aux avances en ligne trop rapides ou suspectes. Avec la génération automatique de faux profils et la synthèse vocale, les cybercriminels n’ont même plus besoin d'intervenir directement, laissant des bots gérés par l’IA manipuler leurs cibles.

Meta continue d'améliorer ses systèmes de détection, mais appelle les internautes à redoubler de prudence face à ces nouvelles formes de fraude.