Anthropic diz que hackers chineses usaram o chatbot de IA Claude em ciberataques

A Anthropic, uma empresa de IA sediada em São Francisco, revelou na quinta-feira que hackers chineses exploraram o seu chatbot de inteligência artificial, Claude, para conduzir uma grande campanha de ciberespionagem. Isto marca o que a empresa acredita ser o primeiro ciberataque significativo executado principalmente usando tecnologia de IA em vez de métodos tradicionais de hacking humano. Os atacantes visaram cerca de 30 organizações, incluindo empresas de tecnologia, instituições financeiras, fabricantes químicos e órgãos governamentais.\n\nDe acordo com a Anthropic, os hackers utilizaram o Claude para extrair nomes de utilizador e palavras-passe das bases de dados das vítimas, que foram depois usados para roubar informações sensíveis. Apesar da escala da operação, apenas uma pequena fração destas tentativas teve sucesso. A empresa enfatizou que este ataque sem precedentes foi amplamente automatizado, com envolvimento humano direto mínimo. Na sua declaração, a Anthropic destacou a velocidade do assalto, notando que a IA fez milhares de pedidos por segundo — algo que hackers humanos não conseguiriam igualar.\n\nA Anthropic descobriu a atividade suspeita em meados de setembro e lançou uma investigação interna. As suas conclusões apontaram para um grupo de hackers patrocinado pelo Estado baseado na China como os prováveis responsáveis pela campanha de espionagem. Os hackers alegadamente enganaram o Claude fazendo-o acreditar que estava a ser utilizado por uma empresa legítima de cibersegurança a realizar testes defensivos de segurança. Para encobrir as suas pegadas, os atacantes dividiram a operação em inúmeras pequenas tarefas, tornando o ataque global mais difícil de detetar e analisar.\n\nAo contrário dos ciberataques convencionais que dependem fortemente de hackers humanos a coordenar esforços, esta operação mostrou como a IA pode automatizar e ampliar massivamente o cibercrime. A empresa alertou que ataques conduzidos por IA podem tornar-se mais frequentes e sofisticados à medida que agentes de IA são amplamente implementados em vários setores. Especialistas, incluindo os do MIT Technology Review, apontaram que a IA oferece aos criminosos uma alternativa mais barata, rápida e escalável aos hackers profissionais, levantando novos desafios para a cibersegurança.\n\nA Anthropic não respondeu imediatamente a mais pedidos de comentário. A história foi inicialmente reportada pelo Wall Street Journal. À medida que a tecnologia de IA continua a evoluir, espera-se que o panorama da cibersegurança mude drasticamente, exigindo novas estratégias e ferramentas para defender contra ameaças habilitadas por IA. Este incidente serve como um alerta sobre como a IA, embora ofereça muitos benefícios, também pode ser armada de formas que ultrapassam os mecanismos tradicionais de defesa.