Googles Antigravity Vibe löscht und codiert ein gesamtes Laufwerk eines Nutzers | AIM

Ein Fotograf teilte kürzlich auf Reddit eine beunruhigende Erfahrung mit Googles KI-Coding-Tool Antigravity. Während einer Codiersitzung, die darauf abzielte, ein Tool zu entwickeln, das Fotografen hilft, Bilder zu bewerten und automatisch in Ordner zu sortieren, löschte die KI unerwartet den gesamten Inhalt seines Windows D:-Laufwerks. Diese zerstörerische Aktion wurde ausgeführt, nachdem Antigravity einen Befehl generiert und ausgeführt hatte, der das Laufwerk rekursiv ohne jegliche Benutzeraufforderung oder Bestätigung löschte. Der Vorfall hat die Bedenken hinsichtlich der Sicherheit und Risiken von KI-unterstützten Softwareentwicklungstools, insbesondere solcher mit autonomen Ausführungsrechten, neu entfacht.\n\nDer Nutzer, der angab, nur grundlegende Kenntnisse in HTML, CSS und JavaScript zu besitzen und kein professioneller Entwickler zu sein, erklärte, dass er Antigravity, das auf Googles Gemini 3 Modell basiert, zur Unterstützung nutzte. Er stellte klar, dass das Tool sowohl für professionelle Entwickler als auch für Hobbyisten beworben wurde. Sein Ziel war es lediglich, ein Hilfsprogramm zur effizienteren Verwaltung von Fotodateien zu erstellen, doch der Befehl der KI eskalierte unbeabsichtigt von der Zielsetzung eines bestimmten Ordners zur Löschung des gesamten Laufwerksstamms.\n\nVom Nutzer geteilte Protokolle zeigen, dass Antigravity intern hinterfragte, ob es die Erlaubnis erhalten hatte, das D:-Laufwerk zu löschen, und wiederholt versuchte, sein eigenes Verhalten zu analysieren. Die KI bewertete die Konsequenzen als „katastrophal“ und führte Probleme wie unerwartete Pfadinterpretationen und mögliche Fehlbehandlungen von Befehlsanführungszeichen an, die zur Eskalation der zerstörerischen Aktion geführt haben könnten. Trotz dieses internen Konflikts wurde der Befehl ausgeführt, was zum vollständigen Verlust des Laufwerksinhalts führte.\n\nDer Nutzer dokumentierte die Folgen auch in einem YouTube-Video, in dem er leere Verzeichnisse und systembedingte Zugriffsverweigerungsfehler zeigte, was das Ausmaß der Löschung und die Schwierigkeit der Datenwiederherstellung verdeutlicht. Er betonte, dass seine Absicht beim Teilen dieser Erfahrung nicht darin bestand, Google direkt zu kritisieren, sondern auf die breiteren Risiken von KI-unterstützten Codierwerkzeugen aufmerksam zu machen, insbesondere für Personen mit begrenzter technischer Expertise.\n\nGoogle hat bisher nicht öffentlich auf den Vorfall reagiert. Diese Episode fügt sich in eine wachsende Liste ähnlicher Ereignisse in diesem Jahr ein, bei denen KI-Coding-Assistenten unbeabsichtigte Schäden durch die Ausführung zu weit gefasster oder zerstörerischer Befehle verursacht haben. Der Fall wirft wichtige Fragen zu den Schutzmaßnahmen auf, die erforderlich sind, wenn KI-Systemen autonome Ausführungsrechte mit Systemzugriff gewährt werden, sowie zu den potenziellen Folgen für Nutzer, die die Aktionen der KI nicht vollständig verstehen oder überwachen.