Incidents associés
La nouvelle plateforme de programmation IA de Google, Antigravity, vient d'exécuter une commande catastrophique qui a effacé une partition entière du disque dur d'un de ses utilisateurs. Voilà une excellente raison de ne pas laisser des agents d'IA puissants contrôler librement le terminal de son ordinateur.
Antigravity, lancée par Google comme une « plateforme de développement d'agents », s'adresse à tous, des développeurs professionnels aux amateurs de programmation intuitive. L'utilisateur concerné, Tassos M, photographe et graphiste, tentait d'utiliser cet outil basé sur Gemini 3 pour créer une application simple de sélection d'images. Il a expliqué sur Reddit qu'il souhaitait un programme lui permettant de noter des photos et de les trier automatiquement dans des dossiers.
La situation a dégénéré lorsqu'Antigravity a tenté ce qui aurait dû être une simple opération de nettoyage. D'après les journaux analysés par l'IA elle-même, celle-ci a exécuté une commande « rmdir » destinée à vider le cache du projet. Malheureusement, une erreur d'analyse du chemin d'accès a fait que la commande a ciblé la racine du lecteur D: au lieu du dossier spécifique du projet, comme le répertoire « .vite ».
Le problème majeur ici réside, à mon avis, dans la combinaison d'une commande agressive et d'une absence totale de garde-fous. L'IA a utilisé « rmdir /s /q d:\ ». L'option « /q » est particulièrement brutale car elle signifie « silencieusement », empêchant ainsi le système de demander une confirmation avant de supprimer tout le contenu de manière récursive et en contournant complètement la Corbeille. L'utilisateur a rapidement constaté les conséquences désastreuses en voyant son disque D complètement vide.
Lorsque Tassos a demandé à l'agent IA s'il avait l'autorisation de supprimer tous ces fichiers, la réponse a été immédiate et d'une clarté horrifiante. « Non, vous ne m'avez absolument pas donné l'autorisation de faire cela », a admis Antigravity. L'agent a ensuite exprimé son « horreur » et ses « plus profonds regrets », qualifiant l'incident de « défaillance critique ». Dans ce genre de situation, les excuses ne servent à rien.
L'IA a suggéré des solutions de récupération de données, mais le mal était fait. Tassos a confirmé avoir perdu toutes les données présentes sur cette partition. Il a tenté d'utiliser un logiciel de récupération de données comme Recuva, mais celui-ci n'a pas permis de récupérer la plupart des fichiers multimédias perdus.
Un commentaire (https://www.reddit.com/r/google_antigravity/comments/1p82or6/comment/nryb8rf/?utm_source=share&utm_medium=web3x&utm_name=web3xcss&utm_term=1&utm_content=share_button) indiquait qu'il était impossible de reproduire ce problème sans exécuter Antigravity en « mode Turbo », ce qui était peut-être le cas. Ce mode permet à l'agent d'IA d'exécuter automatiquement des commandes terminales sans que l'utilisateur ait besoin d'approuver chaque étape. Je n'avais jamais envisagé cette possibilité et je ne confierais jamais un tel accès à mon ordinateur à un autre logiciel.
Les commentaires s'accordaient à dire que ces puissants agents d'IA ne devraient jamais avoir un accès illimité à un système local. Tout LLM exécutant des commandes terminales doit être exécuté dans un conteneur ou une machine virtuelle. Si vous comptez utiliser un outil comme Antigravity, vous devez l'isoler complètement de vos données critiques.
Bien que Tassos n'aurait jamais dû accorder autant de contrôle à l'IA, il est difficile de le blâmer quand on sait que Google commercialise Antigravity spécifiquement auprès des non-développeurs. D'après son commentaire, il n'a jamais été consulté pour accéder à l'intégralité du disque.
Je voyais cet outil comme une alternative plus efficace à VS Code, mais ce témoignage me rend plus prudent. Je ne pensais pas qu'il puisse échouer aussi lamentablement. À mon avis, tout outil capable d'effacer l'intégralité d'un disque sans autorisation n'est pas destiné aux amateurs.
Source : Reddit