L’IA de Google victime de cyberattaques : Ce que tentaient de faire les hackers

Google a récemment détecté une utilisation suspecte de son IA par des groupes de hackers liés à plus de 20 pays, dont l’Iran, la Chine, la Corée du Nord et la Russie. Ces acteurs malveillants utilisent Gemini pour automatiser certaines tâches dans leurs campagnes de cyberattaques.

Selon le rapport, ils ne cherchent pas encore à concevoir des attaques inédites, mais plutôt à accélérer des processus existants. En clair, ils exploitent l’IA pour coder plus efficacement, rechercher des vulnérabilités et collecter des informations stratégiques.

L’IA au service des cybercriminels

« En Iran, l’IA est utilisée pour affiner des campagnes de phishing et mener des recherches sur des organisations sensibles », a fait savoir Google. À en croire le géant Google, les pirates chinois s’en servent pour analyser des outils de cybersécurité et identifier des failles exploitables dans des infrastructures critiques.

En Corée du Nord, Gemini aide à la rédaction de fausses lettres de motivation dans le but d’infiltrer des entreprises occidentales. La Russie, quant à elle, l’utilise pour réécrire et chiffrer des malwares existants.

Cisco a récemment pointé du doigt DeepSeek R1, un chatbot particulièrement exposé aux détournements malveillants.

Google affirme que, malgré ces tentatives, ses protections ont empêché tout usage détourné de Gemini. Les mécanismes de filtrage ont systématiquement bloqué les requêtes malveillantes, empêchant la génération de code nuisible ou l’explication de techniques de phishing avancées. Cependant, les hackers persistent et tentent régulièrement de contourner ces barrières.

La menace des IA moins sécurisées

Si Gemini a résisté, d’autres modèles d’IA plus vulnérables suscitent des inquiétudes. Cisco a récemment pointé du doigt DeepSeek R1, un chatbot particulièrement exposé aux détournements malveillants. Son absence de restrictions strictes en fait un outil prisé par les cybercriminels, leur offrant une alternative aux solutions protégées comme celle de Google.

🚀 L'IA révolutionne nos vies : Oui, mais pas seulement les nôtres… celles des cybercriminels aussi. Elle leur simplifie la tâche (du moins pour l’instant) et peut sérieusement déraper, surtout en ciblant les personnes les plus vulnérables et les moins sensibilisées.

⚠️… pic.twitter.com/BxwRW5biGn

— Kondah Hamza 🦑 (@kondah_ha) February 3, 2025

En parallèle, certains groupes spécialisés dans la désinformation exploitent l’IA pour traduire et optimiser leurs campagnes de manipulation en ligne. Les acteurs iraniens l’utilisent pour ajuster leurs stratégies de communication, tandis que la Chine et la Russie s’en servent pour générer du contenu ciblé sur les réseaux sociaux.

Face à cette menace grandissante, Google intensifie la sécurisation de ses modèles et collabore avec la communauté de la cybersécurité. L’entreprise alerte sur l’urgence d’un cadre réglementaire pour encadrer le développement des IA et empêcher leur détournement à des fins malveillantes.