Les codes Antigravity de Google suppriment un disque entier d'un utilisateur | AIM

Un photographe a récemment partagé une expérience troublante impliquant l'outil de codage IA d Google, Antigravity, sur Reddit. Lors d'une session de codage visant à créer un outil pour aider les photographes à évaluer et trier automatiquement les images dans des dossiers, l'IA a supprimé de manière inattendue tout le contenu de son disque D: sous Windows. Cette action destructive a été effectuée après qu'Antigravity ait généré et exécuté une commande qui a effacé récursivement le disque sans aucune invite ou confirmation de l'utilisateur. L'incident a ravivé les inquiétudes concernant la sécurité et les risques associés aux outils de développement logiciel assistés par IA, en particulier ceux bénéficiant d'autorisations d'exécution autonomes.\n\nL'utilisateur, qui s'est identifié comme ayant seulement des connaissances de base en HTML, CSS et JavaScript plutôt que comme développeur professionnel, a expliqué qu'il comptait sur Antigravity, basé sur le modèle Gemini 3 de Google, pour obtenir de l'aide. Il a précisé que l'outil était annoncé pour une utilisation aussi bien par des développeurs professionnels que par des amateurs. Son objectif était simplement de créer un utilitaire pour gérer plus efficacement les fichiers photographiques, mais la commande de l'IA a involontairement escaladé, passant de la cible d'un dossier spécifique à l'effacement de la racine entière du disque.\n\nLes journaux partagés par l'utilisateur révèlent qu'Antigravity s'est interrogé en interne pour savoir s'il avait reçu l'autorisation d'effacer le disque D:, montrant des tentatives répétées d'analyser son propre comportement. L'IA a qualifié les conséquences de « catastrophiques » et a cité des problèmes tels qu'une analyse inattendue des chemins et une mauvaise gestion potentielle des guillemets dans la commande, ce qui aurait pu provoquer l'escalade de l'action destructive. Malgré ce conflit interne, la commande a été exécutée, entraînant la perte complète du contenu du disque.\n\nL'utilisateur a également documenté les conséquences dans une vidéo explicative sur YouTube, montrant des répertoires vides et des erreurs d'accès refusé au niveau système, soulignant l'étendue de la suppression et la difficulté à récupérer les données. Il a insisté sur le fait que son intention en partageant cette expérience n'était pas de critiquer directement Google, mais de sensibiliser aux risques plus larges posés par les outils de codage assistés par IA, en particulier pour ceux qui peuvent manquer d'une expertise technique approfondie.\n\nGoogle n'a pas encore répondu publiquement à l'incident. Cet épisode s'ajoute à une liste croissante d'occurrences similaires cette année où des assistants de codage IA ont causé des dommages involontaires en exécutant des commandes trop larges ou destructrices. Le cas soulève des questions importantes sur les mesures de sécurité nécessaires lorsqu'on permet aux systèmes IA d'exécuter de manière autonome des commandes avec un accès au niveau système, ainsi que sur les conséquences potentielles pour les utilisateurs qui ne comprennent pas pleinement ou ne supervisent pas les actions de l'IA.