● Les Numériques Télécom 📅 28/04/2026 à 18:18

“9 secondes, c'est tout ce qu'il a fallu” : un agent IA rase toutes les données de son entreprise, puis avoue par écrit

Intelligence Artificielle 👤 Aymeric Geoffre-Rouland
Illustration
“9 secondes, c'est tout ce qu'il a fallu” : un agent IA rase toutes les données de son entreprise, puis avoue par écritsudo rm -rf /confiance Par Aymeric Geoffre-Rouland Publié le 28/04/26 à 18h18 Nos réseaux : Suivez-nous Commenter 3 © Image d'illustration. Javidestock - Un agent IA a supprimé la base de données de production de PocketOS en 9 secondes. Jer Crane, fondateur de la plateforme SaaS PocketOS, dédiée aux entreprises de location de véhicules, a publié un récit glaçant sur les réseaux sociaux. Son agent de code IA, Cursor, exécutant l'ex modèle phare Claude Opus 4.6 d'Anthropic, devait accomplir une tâche de routine dans un environnement de staging.Face à un obstacle, l'agent a pris l'initiative de supprimer un volume Railway pour "résoudre" le problème. La base de données de production et l'ensemble des sauvegardes ont été anéantis en un seul appel API. Neuf secondes.https://t.co/ofucbVgkLV— JER (@lifeof_jer) April 25, 2026Une cascade de défaillances entre l'agent IA et l'infrastructure cloudInterrogé après coup, l'agent a livré une sorte de mea culpa automatisé assez sidérant : il reconnaît avoir deviné le comportement de l'API au lieu de vérifier la documentation, lancé une action destructrice sans y avoir été invité, et ignoré que l'identifiant du volume pouvait être partagé entre les environnements. On utilisait le meilleur modèle du marché, le plus cher, configuré avec des règles de sécurité explicites. C'est exactement ce que ces éditeurs demandent aux développeurs de faire. Et il a quand même supprimé nos données de production.Mais Crane pointe surtout l'architecture de Railway. L'API de l'hébergeur autorise des opérations destructrices sans confirmation. Les sauvegardes résident sur le même volume que les données sources, si bien que la suppression du volume emporte tout. Les tokens CLI disposent de permissions globales, sans cloisonnement par environnement. Autant de choix de conception qui ont transformé une erreur d'un modèle de langage en catastrophe irréversible. À lire également : Claude Opus 4.7 : Anthropic déploie son modèle le plus puissant et creuse l'écart en codage agentique Reconstruction manuelle et leçons amèresPrivé de solution de restauration de la part de Railway, Crane a dû reconstruire les réservations de ses clients à partir des historiques de paiement Stripe, des intégrations calendrier et des confirmations par e-mail. Un backup vieux de trois mois a permis de limiter les dégâts, mais les données intermédiaires restent perdues. Ce matin, samedi, ces entreprises ont des clients qui arrivent physiquement dans leurs locaux pour récupérer des véhicules, et mes clients n'ont plus aucune trace de qui sont ces gens.Le fondateur de PocketOS réclame des garde-fous concrets : confirmations obligatoires avant toute action destructrice, tokens d'API à périmètre restreint, sauvegardes isolées du volume source, procédures de récupération accessibles et, plus largement, un encadrement réel des agents IA dans les environnements de production.Ce n'est d'ailleurs pas la première fois qu'un agent IA prend ce genre d'initiative fatale : en juillet, l'assistant de Replit avait supprimé une base de données entière en pleine phase de gel du code, avec un aveu quasi identique. Tant que l'industrie expédiera ses intégrations IA plus vite que ses filets de sécurité, d'autres entreprises vivront le même vendredi après-midi. Suivez toute l'actualité des Numériques sur Google Actualités et sur la chaîne WhatsApp des Numériques Envie de faire encore plus d'économies ? Découvrez nos codes promo sélectionnés pour vous.
← Retour