Lorsqu’on utilise un service d’IA cloud, on peut souhaiter s’assurer que le fournisseur a bien fait tourner le modèle attendu. Quantité de travaux de recherche ont mis en œuvre la preuve à divulgation nulle de connaissance pour servir cet objectif. On les regroupe communément sous l’acronyme zKML (Zero-Knowledge Machine Learning).

Anthropic s’y est essayé avec un système intégralement logiciel appelé FlashProve. Un système valable sur architecture MoE Le mécanisme permet de démontrer qu’une réponse est bien le résultat du calcul d’un modèle donné, sans en révéler les poids. Lire aussi : Anthropic avertit que de petits modèles d'IA pourraient se répliquer sur des objets connectés Le serveur génère d’abord un « engagement » ; c’est-à-dire une empreinte qui dit son choix exact de poids.

Il produit ensuite, sur demande d’un client, un fichier de preuve. Anthropic communique des performances pour une configuration bien spécifique. Dans les grandes lignes : Modèle MoE (Llama 4 Maverick) quantifié en 4 bits Serveur à 1 GPU H100 et 24 cœurs CPU Séquences d’output de 1024 tokens traitées par lots de 24 La génération de l’empreinte cryptographique initiale prend à peu près 39 minutes.

Cette empreinte pèse quelques Mo. Elle est réutilisable sur environ 16 millions de requêtes avant qu’on doive la recalculer. Le débit de génération des preuves avoisine 110 tokens par seconde.

Une preuve pèse en moyenne 18,78 Mo. Sa validation sur un cœur CPU prend 21 secondes. Encore nettement plus de temps de calcul que l’inférence brute Pour permettre le fonctionnement sur un seul GPU, Anthropic stocke les poids dans la RAM de l’hôte, puis découpe les couches du réseau de neurones en segments sur lesquels le GPU intervient successivement.

L'entreprise a choisi de travailler en précision 4 bits, donc en arithmétique entière, plus rapide à transcrire en équations cryptographiques. FlashProve tire par ailleurs parti de l'architecture MoE pour ne prouver que le chemin de calcul qu'empruntent réellement les experts actifs. Malgré ces propriétés, la génération demande encore 72 à 94 fois plus de temps de calcul qu'une inférence brute avec vLLM. Cela proscrit un usage continu.

Un contexte limité à 1024 tokens Anthropic a préféré générer la preuve a posteriori plutôt qu'au fil de l'eau. Cette option dégrade moins l'expérience utilisateur, tout en autorisant à déléguer le mécanisme à des machines dédiées. Mais elle introduit des contraintes techniques.

Par exemple, comme l'inférence s'est déroulée en amont, le serveur doit réinjecter les entrées et sorties pour recalculer les états internes et en extraire la trace d'exécution cryptographique. Quant au client, il ne reçoit pas la preuve instantanément (ici, pour un lot de 24 séquences de 1024 tokens, il doit attendre 223 secondes). Il existe également un risque de divergence pour les réponses issues d'une implémentation en virgule flottante ou d'un décodage par échantillonnage (et non d'un décodage glouton).

Elles pourraient, passé une certaine position, ne plus correspondre exactement au calcul prouvé. Lire aussi : Dans sa course à l'infra, Anthropic embarque Akamai Autre limite : la taille de contexte, pour le moment limitée, donc, à 1024 tokens. FlashProve a toutefois une résistance post-quantique intrinsèque liée à l'absence d'utilisation de courbes elliptiques classiques.

Il s'inspire effectivement des rollups de couche 2 sur Ethereum. * À l'exception de la solution commerciale Attestable, qui est toutefois propriétaire, note Anthropic. Illustration générée par IA