● FrenchWeb 📅 13/05/2026 à 06:46

Intelligence Artificielle 👤 LA REDACTION DE FW.MEDIA

🏷️ Tags : anthropic cert chatgpt openai rag rte

Denis-Shilov et Elena Lumagulova, co fondateurs de WhiteCircle White Circle, startup spécialisée dans la supervision et la sécurisation des modèles d’intelligence artificielle, annonce avoir levé 11 millions de dollars, soit environ 9,35 millions d’euros. Le tour réunit plusieurs figures majeures de l’écosystème IA mondial, parmi lesquelles Romain Huet, Dirk Kingma, Guillaume Lample, Thomas Wolf, François Chollet, Olivier Pomel ou encore Paige Bailey. Fondée par Denis Shilov, White Circle développe une plateforme permettant aux entreprises de surveiller en temps réel les comportements de leurs modèles IA et de leurs agents autonomes. La startup affirme déjà traiter plus d’un milliard de requêtes API et compte parmi ses clients plusieurs grands groupes internationaux, dont deux grandes banques numériques mondiales ainsi que Lovable. Cette levée intervient alors que les entreprises accélèrent le déploiement d’agents IA dans des environnements critiques, qu’il s’agisse de la relation client, de la finance, de la cybersécurité, des ressources humaines ou encore de l’automatisation logicielle. Le marché se déplace progressivement du développement des modèles vers leur supervision opérationnelle. Avant White Circle, Denis Shilov s’était fait connaître dans l’écosystème IA pour avoir publié en 2024 un “universal jailbreak” capable de contourner les mécanismes de sécurité des principaux modèles génératifs du marché. Selon l’entreprise, ce prompt permettait d’obtenir des réponses normalement bloquées par des systèmes comme OpenAI ou Anthropic. Les garde-fous censés empêcher la génération de contenus dangereux, illégaux ou sensibles pouvaient être neutralisés avec une seule instruction. La publication est rapidement devenue virale et a dépassé 1,4 million de vues. Elle a également attiré l’attention de plusieurs laboratoires IA américains. Denis Shilov a ensuite été invité à participer au programme de bug bounty d’Anthropic avant de lancer White Circle. White Circle construit une couche d’observabilité et de contrôle destinée à s’intercaler entre les modèles IA et les applications métier. Sa plateforme analyse les entrées et sorties des modèles en temps réel afin de détecter des hallucinations, identifier des prompt injections, surveiller des dérives comportementales, bloquer des actions malveillantes ou encore empêcher des fuites de données sensibles. Les entreprises peuvent définir leurs propres politiques de contrôle afin de déterminer ce qui est autorisé ou interdit. White Circle propose également des mécanismes automatiques de limitation, de blocage ou de bannissement. Le système est conçu pour fonctionner avec différents fournisseurs de modèles IA via une API unique. La société affirme prendre en charge plus de 150 langues. Dans les usages décrits par White Circle, la plateforme peut empêcher un agent IA d’exécuter des commandes destructrices, détecter des comportements anormaux dans des workflows financiers ou identifier des tentatives de manipulation visant à contourner les règles internes d’un modèle. Le développement de la startup illustre une évolution rapide du marché de l’IA générative. Après la course aux modèles et aux infrastructures GPU, un nouveau segment émerge autour de la supervision des systèmes IA en production. La généralisation des outils low-code et des plateformes de “vibe coding” accélère fortement le déploiement d’applications IA dans les entreprises. Des équipes non spécialisées peuvent désormais connecter des modèles à des bases de données, des CRM, des ERP ou des outils financiers en quelques heures. Cette démocratisation crée cependant une nouvelle surface de risque. Les entreprises doivent désormais gérer des agents capables d’interagir avec des systèmes critiques sans toujours disposer d’une visibilité claire sur leurs comportements réels. Les risques concernent aussi bien l’exposition de données sensibles que les dérives opérationnelles, les manipulations malveillantes ou l’exécution d’actions imprévues. White Circle se positionne précisément sur cette couche de supervision opérationnelle. Le parallèle avec le marché du cloud est évident. Après l’explosion des infrastructures cloud dans les années 2010, des sociétés comme Datadog ou Sentry se sont imposées comme des couches d’observabilité indispensables pour surveiller les architectures distribuées. White Circle tente désormais d’occuper un rôle comparable pour les systèmes IA. La startup cherche également à renforcer sa crédibilité technique par la publication de travaux de recherche sur les risques liés aux modèles génératifs. En 2025, elle a publié “CircleGuardBench”, un benchmark destiné à évaluer la robustesse des modèles de modération IA dans des conditions réelles. Plus récemment, White Circle a présenté “KillBench”, une étude reposant sur plus d’un million d’expériences réalisées sur quinze modèles issus notamment d’OpenAI, Google, Anthropic et xAI. Selon la startup ces travaux ont mis en évidence des biais comportementaux liés à la nationalité, à la religion, à l’apparence physique ou encore à certains marqueurs culturels. L’étude affirme également que certains formats structurés utilisés dans les intégrations IA d’entreprise réduisent fortement les mécanismes de refus intégrés aux modèles. La levée de White Circle intervient enfin dans un contexte de durcissement progressif des exigences réglementaires autour de l’intelligence artificielle. Les entreprises doivent désormais démontrer leur capacité à tracer les décisions des modèles, contrôler les actions des agents, documenter les dérives et limiter les risques juridiques liés à l’automatisation. Avec l’émergence d’agents IA capables d’interagir directement avec des systèmes opérationnels, la supervision comportementale des modèles pourrait devenir une composante structurelle des architectures IA d’entreprise. White Circle parie précisément sur cette évolution. À propos Articles récents LA REDACTION DE FW.MEDIAPour nous contacter, nous vous avons préparé un petit formulaire pour bien gérer votre demande et pouvoir l'adresser en toute confidentialité. Cliquez ici pour y accéder Les derniers articles par LA REDACTION DE FW.MEDIA (tout voir) Il avait contourné les garde-fous de ChatGPT : Denis Shilov lève 9,35 millions d’euros pour WHITE CIRCLE - 13/05/2026 La valorisation de N8N double à 4,42 milliards d’euros alors que SAP accélère sur les workflows de l’IA d’entreprise - 13/05/2026 Alexandre Yazdi, le fondateur de VOODOO, prend le contrôle de DC COMPANY (Konbini, Le Gorafi) et accélère ses ambitions dans les médias numériques - 12/05/2026 13/05/2026 3 minutes de lecture

🔗 Lire l'article original 👁️ 0 lecture