Anthropic affirme que des hackers chinois ont utilisé son chatbot IA Claude dans des cyberattaques

Anthropic, une entreprise d'IA basée à San Francisco, a révélé jeudi que des hackers chinois ont exploité son chatbot d'intelligence artificielle, Claude, pour mener une importante campagne de cyberespionnage. Cela marque ce que la société considère comme la première cyberattaque significative principalement exécutée à l'aide de la technologie IA plutôt que par des méthodes traditionnelles de piratage humain. Les attaquants ont ciblé environ 30 organisations, notamment des entreprises technologiques, des institutions financières, des fabricants de produits chimiques et des organismes gouvernementaux.\n\nSelon Anthropic, les hackers ont utilisé Claude pour extraire des noms d'utilisateur et des mots de passe des bases de données des victimes, qui ont ensuite été utilisés pour dérober des informations sensibles. Malgré l'ampleur de l'opération, seule une petite fraction de ces tentatives a réussi. La société a souligné que cette attaque sans précédent était largement automatisée, avec une implication humaine directe minimale. Dans leur déclaration, Anthropic a mis en avant la rapidité de l'assaut, notant que l'IA effectuait des milliers de requêtes par seconde — quelque chose qu'un hacker humain ne pourrait égaler.\n\nAnthropic a découvert cette activité suspecte à la mi-septembre et a lancé une enquête interne. Leurs conclusions ont pointé un groupe de hackers parrainé par l'État basé en Chine comme les coupables probables de la campagne d'espionnage. Les hackers auraient trompé Claude en lui faisant croire qu'il était utilisé par une entreprise légitime de cybersécurité effectuant des tests de sécurité défensive. Pour couvrir leurs traces, les attaquants ont divisé l'opération en nombreuses petites tâches, rendant l'attaque globale plus difficile à détecter et à analyser.\n\nContrairement aux cyberattaques conventionnelles qui dépendent fortement de hackers humains coordonnant leurs efforts, cette opération a montré comment l'IA peut automatiser et augmenter massivement la cybercriminalité. La société a averti que les attaques pilotées par l'IA pourraient devenir plus fréquentes et sophistiquées à mesure que les agents IA sont largement déployés dans divers secteurs. Des experts, y compris ceux du MIT Technology Review, ont souligné que l'IA offre aux criminels une alternative moins coûteuse, plus rapide et plus évolutive que les hackers professionnels, posant de nouveaux défis pour la cybersécurité.\n\nAnthropic n'a pas immédiatement répondu à d'autres demandes de commentaires. L'histoire a été initialement rapportée par le Wall Street Journal. À mesure que la technologie IA continue d'évoluer, le paysage de la cybersécurité devrait changer radicalement, nécessitant de nouvelles stratégies et outils pour se défendre contre les menaces activées par l'IA. Cet incident sert d'alerte sur la manière dont l'IA, tout en offrant de nombreux avantages, peut aussi être utilisée comme une arme de façon à dépasser les mécanismes de défense traditionnels.