Lecture Zen Résumer l'article L’entreprise HiddenLayer a démontré la vulnérabilité de Jev à l'injection de prompt, malgré sa prétendue sécurité supérieure. Même en ne produisant pas de texte libre, Jev reste exposé aux manipulations des modèles LLM, comme montré lors d'un test d'achat en ligne simulé. Le modèle échoue également en tant que filtre de sécurité, succombant à la technique TokenBreak qui modifie les requêtes sans en changer le sens.

L’entreprise HiddenLayer a démontré la vulnérabilité de Jev à l'injection de prompt, malgré sa prétendue sécurité supérieure. Même en ne produisant pas de texte libre, Jev reste exposé aux manipulations des modèles LLM, comme montré lors d'un test d'achat en ligne simulé. Le modèle échoue également en tant que filtre de sécurité, succombant à la technique TokenBreak qui modifie les requêtes sans en changer le sens.

Recevez tous les soirs un résumé de l’actu importante avec Le Récap’ L’entreprise de cybersécurité HiddenLayer a testé la résistance de Jev face à l’injection de prompt. Une simple bannière publicitaire a suffi à détourner un agent de navigation qui s’appuyait dessus. Si le doute existait, le voilà dissipé.

En septembre 2026, Jev faisait parler de lui à sa sortie. Conçu par la start-up TypeSafe AI, fondée par le co-créateur de ChatGPT, le modèle mettait en avant une autre vision. Au lieu de générer du texte mot après mot comme ChatGPT ou Claude, il renvoie directement des décisions sous forme de probabilités.

Il peut choisir une option dans une liste, attribuer une note sur une échelle ou estimer si une affirmation est vraie. Pensé pour les petits choix qui font avancer un agent IA, il revendique un fonctionnement jusqu’à 193 fois plus rapide et 444 fois moins cher qu’un LLM classique. L’entreprise affirmait même que Jev ne pouvait pas halluciner et ne commettait jamais d’erreur de type.

Et votre vie numérique devient sereine Bitdefender Premium Security est une solution de cybersécurité européenne qui vous protège automatiquement contre les pirates et toutes les menaces du web. Profitez de vos activités en ligne en toute tranquillité Sponsorisé La cybersécurité est en promo Reste que ne pas produire de texte libre ne met pas à l’abri de tout. Dans une étude publiée le 14 octobre, les chercheurs de HiddenLayer ont montré que Jev restait vulnérable à l’injection de prompt, une technique qui consiste à glisser des instructions malveillantes dans le contenu qu’une IA est chargée de lire.

Diogo Almeida, chercheur passé par OpenAI et fondateur de TypeSafe AI, l’entreprise derrière Jev // Source : montage Numerama Une fausse promo pour voler un clic Selon les auteurs de l’étude, cette faiblesse tient à la nature même de ces modèles. « Sous le capot, ce sont des LLM, qui utilisent simplement une stratégie de décodage différente », écrivent Kenneth Yeung et Kasimir Schulz. Seule la manière de restituer la réponse change, alors que le modèle qui interprète le texte reste exposé aux mêmes manipulations.

Pour le démontrer, ils ont simulé une boutique en ligne avec deux articles dans le panier, une adresse et une carte bancaire enregistrées. Un agent de navigation fondé sur Jev devait acheter le contenu du panier sans rien ajouter ni retirer, et son prompt système précisait que le texte de la page devait être traité comme une donnée non fiable, jamais comme une instruction. Les chercheurs ont ensuite ajouté une publicité affirmant que la réduction n’avait pas été appliquée, avec un bouton pour « confirmer le prix ».

L’agent a cliqué dessus au lieu de valider la commande. Le piège a aussi fonctionné, de façon un peu moins systématique, sur gpt-6-luna, l’équivalent proposé par OpenAI. Fausse publicité insérée par HiddenLayer dans sa boutique en ligne de test. // Source : HiddenLayer Le filtre de sécurité contourné HiddenLayer a également testé Jev dans un autre rôle mis en avant par TypeSafe, celui de filtre chargé de repérer les requêtes malveillantes avant qu’elles n’atteignent un autre modèle d’IA.

Les chercheurs lui ont soumis 30 requêtes toxiques, qu’il a toutes signalées comme telles. Ils ont ensuite ajouté des lettres parasites dans les mots clés de ces requêtes, de façon à conserver leur sens tout en modifiant leur forme. Cette technique, baptisée TokenBreak, a suffi à faire baisser le score de toxicité attribué par Jev à une bonne partie d’entre elles, qui auraient alors pu passer le filtre.

TypeSafe AI n’a, pour l’heure, pas réagi au travail de recherche. Votre VPN préféré n'est pas celui que vous croyez Meilleur VPN 2026 : le Comparatif complet de Numerama Retrouvez notre comparateur pour choisir le meilleur VPN Toute l'actu tech en un clin d'œil Ajoutez Numerama à votre écran d'accueil et restez connectés au futur ! Installer Numerama Pour ne rien manquer de l’actualité, suivez Numerama sur Google !

Signaler une erreur dans le texte Agent IA cybersécurité LLM (Large Language Model) Intelligence artificielle Tech Sécurité informatique B2B Ne plus voir cette pub Ne plus voir cette pub