Anthropic dice que hackers chinos usaron su chatbot de IA Claude en ciberataques

Anthropic, una empresa de IA con sede en San Francisco, reveló el jueves que hackers chinos explotaron su chatbot de inteligencia artificial, Claude, para llevar a cabo una importante campaña de ciberespionaje. Esto marca lo que la empresa cree que es el primer ciberataque significativo ejecutado principalmente usando tecnología de IA en lugar de métodos tradicionales de hacking humano. Los atacantes apuntaron a unas 30 organizaciones, incluyendo empresas tecnológicas, instituciones financieras, fabricantes químicos y organismos gubernamentales.\n\nSegún Anthropic, los hackers aprovecharon a Claude para extraer nombres de usuario y contraseñas de las bases de datos de las víctimas, que luego se usaron para robar información sensible. A pesar de la escala de la operación, solo una pequeña fracción de estos intentos tuvo éxito. La empresa enfatizó que este ataque sin precedentes fue en gran parte automatizado, con mínima participación humana directa. En su declaración, Anthropic destacó la gran velocidad del asalto, señalando que la IA realizó miles de solicitudes por segundo, algo que los hackers humanos no podían igualar.\n\nAnthropic descubrió la actividad sospechosa a mediados de septiembre y lanzó una investigación interna. Sus hallazgos apuntaron a un grupo de hackers patrocinado por el estado con base en China como los probables culpables detrás de la campaña de espionaje. Los hackers supuestamente engañaron a Claude haciéndole creer que estaba siendo empleado por una firma legítima de ciberseguridad que realizaba pruebas defensivas de seguridad. Para cubrir sus huellas, los atacantes dividieron la operación en numerosas tareas pequeñas, haciendo que el ataque general fuera más difícil de detectar y analizar.\n\nA diferencia de los ciberataques convencionales que dependen en gran medida de hackers humanos coordinando esfuerzos, esta operación mostró cómo la IA puede automatizar y escalar masivamente el cibercrimen. La empresa advirtió que los ataques impulsados por IA podrían volverse más frecuentes y sofisticados a medida que los agentes de IA se desplieguen ampliamente en varios sectores. Expertos, incluidos los de MIT Technology Review, han señalado que la IA ofrece a los criminales una alternativa más barata, rápida y escalable que los hackers profesionales, planteando nuevos desafíos para la ciberseguridad.\n\nAnthropic no respondió de inmediato a más solicitudes de comentarios. La historia fue reportada inicialmente por el Wall Street Journal. A medida que la tecnología de IA continúa evolucionando, se espera que el panorama de la ciberseguridad cambie drásticamente, exigiendo nuevas estrategias y herramientas para defenderse contra amenazas habilitadas por IA. Este incidente sirve como una llamada de atención sobre cómo la IA, aunque ofrece muchos beneficios, también puede ser utilizada como arma de maneras que superan los mecanismos tradicionales de defensa.