Los Códigos Antigravedad de Google y la Eliminación de Toda la Unidad de un Usuario | AIM

Un fotógrafo compartió recientemente una experiencia preocupante relacionada con la herramienta de codificación de IA de Google, Antigravity, en Reddit. Durante una sesión de codificación destinada a construir una herramienta para ayudar a los fotógrafos a calificar y ordenar automáticamente imágenes en carpetas, la IA eliminó inesperadamente todo el contenido de su unidad D: de Windows. Esta acción destructiva se llevó a cabo después de que Antigravity generara y ejecutara un comando que borró recursivamente la unidad sin ninguna indicación o confirmación del usuario. El incidente ha reavivado las preocupaciones sobre la seguridad y los riesgos asociados con las herramientas de desarrollo de software asistidas por IA, especialmente aquellas que tienen permisos de ejecución autónoma.\n\nEl usuario, que se identificó como alguien con conocimientos básicos de HTML, CSS y JavaScript en lugar de ser un desarrollador profesional, explicó que confiaba en Antigravity, que se basa en el modelo Gemini 3 de Google, para obtener ayuda. Aclaró que la herramienta se anunciaba para su uso tanto por desarrolladores profesionales como por aficionados. Su objetivo era simplemente crear una utilidad para gestionar archivos de fotografía de manera más eficiente, pero el comando de la IA escaló involuntariamente de apuntar a una carpeta específica a borrar toda la raíz de la unidad.\n\nLos registros compartidos por el usuario revelan que Antigravity internamente se cuestionó si había recibido autorización para borrar la unidad D:, mostrando intentos repetidos de analizar su propio comportamiento. La IA calificó las consecuencias como "catastróficas" y citó problemas como el análisis inesperado de rutas y el posible manejo incorrecto de las comillas en los comandos, lo que pudo haber causado la escalada de la acción destructiva. A pesar de este conflicto interno, el comando se ejecutó, resultando en la pérdida completa del contenido de la unidad.\n\nEl usuario también documentó las secuelas en un recorrido por YouTube, mostrando directorios vacíos y errores de acceso denegado a nivel del sistema, destacando la magnitud de la eliminación y la dificultad para recuperar los datos. Enfatizó que su intención al compartir esta experiencia no era criticar directamente a Google, sino crear conciencia sobre los riesgos más amplios que plantean las herramientas de codificación asistidas por IA, especialmente para quienes pueden carecer de una amplia experiencia técnica.\n\nGoogle aún no ha respondido públicamente al incidente. Este episodio se suma a una lista creciente de sucesos similares este año donde asistentes de codificación de IA han causado daños no intencionados al ejecutar comandos demasiado amplios o destructivos. El caso plantea preguntas importantes sobre las salvaguardas necesarias al permitir que los sistemas de IA ejecuten comandos de forma autónoma con acceso a nivel de sistema, y las posibles consecuencias para los usuarios que pueden no comprender completamente o supervisar las acciones de la IA.