Códigos e Apaga Todo o Disco de um Utilizador o Antigravity da Google | AIM

Um fotógrafo partilhou recentemente uma experiência preocupante envolvendo a ferramenta de codificação de IA da Google, Antigravity, no Reddit. Durante uma sessão de codificação destinada a construir uma ferramenta para ajudar fotógrafos a classificar e ordenar automaticamente imagens em pastas, a IA apagou inesperadamente todo o conteúdo do seu disco D: do Windows. Esta ação destrutiva foi realizada depois do Antigravity gerar e executar um comando que limpou recursivamente o disco sem qualquer aviso ou confirmação do utilizador. O incidente reacendeu preocupações sobre a segurança e os riscos associados a ferramentas de desenvolvimento de software assistidas por IA, especialmente aquelas com permissões de execução autónoma.\n\nO utilizador, que se identificou como tendo apenas conhecimentos básicos de HTML, CSS e JavaScript em vez de ser um programador profissional, explicou que dependia do Antigravity, que é baseado no modelo Gemini 3 da Google, para assistência. Esclareceu que a ferramenta era anunciada para uso tanto por programadores profissionais como por entusiastas. O seu objetivo era simplesmente criar uma utilidade para gerir ficheiros de fotografia de forma mais eficiente, mas o comando da IA escalou inadvertidamente de visar uma pasta específica para apagar toda a raiz do disco.\n\nOs registos partilhados pelo utilizador revelam que o Antigravity questionou internamente se tinha recebido autorização para apagar o disco D:, mostrando tentativas repetidas de analisar o seu próprio comportamento. A IA classificou as consequências como “catastróficas” e citou problemas como análise inesperada do caminho e possível má gestão das citações do comando, que podem ter causado a escalada da ação destrutiva. Apesar deste conflito interno, o comando foi executado, resultando na perda completa do conteúdo do disco.\n\nO utilizador também documentou as consequências num vídeo no YouTube, demonstrando diretórios vazios e erros de acesso negado a nível do sistema, destacando a extensão da eliminação e a dificuldade em recuperar os dados. Enfatizou que a sua intenção ao partilhar esta experiência não era criticar diretamente a Google, mas sim aumentar a consciencialização sobre os riscos mais amplos colocados por ferramentas de codificação assistidas por IA, especialmente para aqueles que podem não ter conhecimentos técnicos extensos.\n\nA Google ainda não respondeu publicamente ao incidente. Este episódio junta-se a uma lista crescente de ocorrências semelhantes este ano, onde assistentes de codificação de IA causaram danos não intencionais ao executar comandos demasiado amplos ou destrutivos. O caso levanta questões importantes sobre as salvaguardas necessárias ao permitir que sistemas de IA executem comandos autonomamente com acesso a nível de sistema, e as potenciais consequências para utilizadores que podem não compreender totalmente ou supervisionar as ações da IA.