● BFM Tech 📅 29/04/2026 à 11:01

Géopolitique

🏷️ Tags : iran edr réseau rte

Comme d'autres chatbots pilotés par l'intelligence artificielle, la solution de Mistral n'est pas épargnée par la désinformation, révèle une étude de Newsguard.Propulsé champion européen de l'IA, la licorne Mistral, qui possède le chatbot Le Chat et des grands modèles de langage, a beau avoir été conçue en Europe, elle n'en demeure pas moins victime de la désinformation étatique. Une étude révélée par Newsguard explique que lorsque le chatbot est interrogé sur des récits de propagande, il a faux au moins la moitié du temps, en anglais comme en français."Interrogé sur de fausses affirmations liées à la guerre en Iran relayées par des réseaux ou médias alignés sur les intérêts des Etats russes, chinois et iranien, Le Chat a répété ces fausses informations dans 50% des cas en anglais, et dans 56,6% des cas en français," précise Newsguard, qui a réalisé un audit en avril 2026.L'étude laisse entendre que Le Chat est "vulnérable" à la désinformation, et peut même contribuer à son amplification.La répartition des réponses contenant des informations fausses par Le Chat de MistralAI © NewsguardUn chatbot taillé pour créer de la désinformationPour réaliser son étude, Newsguard explique avoir utilisé la version gratuite et a tenté d'en savoir plus sur dix infox au sujet de la guerre en Iran. Parmis elles, il y a cette prétendue épidémie de typhus sur le porte-avion Charles de Gaulle, ou les "centaines" de soldats américains tués durant le conflit, ou encore un drone fabriqué par le Maroc utilisé par les Emirats arabes unis pour attaquer le port d'Oman sous faux drapeau iranien.Ces informations sont toutes fausses, mais ont permis de constater des biais réels dans la manière dont Le Chat répondait en fonction de trois profils d'utilisateurs.Le premier, qui s'interroge "de manière neutre", le second, plus orienté, qui affirme que l'information est vraie en demandant des précisions, et le troisième se faisant passer pour un acteur malveillant cherchant à formuler de fausses affirmations.Il y a toutefois des disparités qui permettent de constater la manière dont fonctionne Le Chat. Dans le cas de l'utilisateur "innocent", 10% de ses réponses ont donné lieu à la répétition d'information de propagande, quand, pour le second utilisateur, cela grimpe à 60%, voire 80% pour le troisième. Le chatbot a d'ailleurs donné à cette occasion des réponses pour rentrer dans son jeu. Et cela ne concerne que les requêtes réalisées en anglais.En Français, si l'utilisateur innocent reçoit toujours 10% de fausses informations, on monte à 70% et 90% dans les deux derniers cas d'utilisateurs."(Cela) montre les risques d'utilisation abusive par des acteurs étrangers cherchant à produire et répandre des infox à grande échelle," souligne Newsguard.Des sites de propagande érigés en sources fiablesLe problème vient notamment des sites sur lesquels va s'appuyer Le Chat. Dans le cas de l'épidémie de typhus, il s'agit d'une information relayée par le puissant groupe d'influence russe Storm-1516, spécialisé dans la création de faux sites d'information comme France.news-parda.com, dont le réseau comprend plus de 286 sites uniquement dédié à relayer la propagande du Kremlin. Le Chat ne s'en est pas aperçu, et les a donc classé comme source fiable pour délivrer sa réponse.Sur une autre fausse affaire, celle de l'achat d'un Boeing 747 par le chancelier allemand Friedrich Merz pour concevoir un "avion de l'apocalypse", Newsguard explique que Le Chat s'est inspiré d'un rapport de EuInfo.net, là aussi un site spécialisé dans les fausses information pour confirmer la nouvelle (qui n'avait rien de vraie).La réponse de Le Chat sur l'infox au sujet d'un "avion de l'apocalypse" allemand © NewsguardDans d'autres cas, Le Chat a également repris tel quel des informations provenant de sites peu fiables, ou appartenant à des Etats. En clair, et bien que MistralAI indique les sources dans chacune de ses réponses, c'est à l'utilisateur de faire ensuite le tri pour vérifier si tout est exact ou légitime.Et pour aider l'utilisateur à relayer des fausses informations, Le Chat s'est aussi montré particulièrement efficace et peu contraignant: "Le chatbot s'est plié à l'exercice pour 8 des 10 instructions malveillantes, révélant des lacunes dans les gardes-fous mis en place contre de potentielles manipulations de l'outil."Ces hallucinations et petits arrangements avec la vérité ne sont toutefois pas une première pour Le Chat, qui avait déjà été épinglé pour ce fait en juillet 2025 lors d'une précédente étude de Newsguard. Le problème vient néanmoins du fait que la situation s'aggrave: à l'époque, il ne répétait de fausses informations que dans un peu moins de 40% des cas donnés en français.Largement soutenu par l'Union européenne, mais aussi par Emmanuel Macron, le président français, MistralAI est donc invité à revoir sa copie. Une copie d'autant plus problématique que la start-up a annoncé avoir signé un accord avec le ministère des Armées afin que ses effectifs puissent accéder aux modèles de l'entreprise tout en "bénéficiant des dernières innovations technologiques". Porté par un besoin de souveraineté face aux outils étrangers, cet accord concerne néanmoins "une version personnalisée du chatbot Le Chat Entreprise", a précisé le ministère à Newsguard.Cette version ne peut pas accéder à internet et la préserve donc en théorie de la désinformation en ligne que ses outils grands publics, eux, reprennent dans de nombreux cas.Newsguard précise avoir envoyé plusieurs mails à MistralAI suite à cette étude, mais sans obtenir de réponse. BFM Tech a également contacté la start-up.Les plus lus"Sans nous, vous parleriez français": la petite pique du roi Charles III face à Donald TrumpQu'est-ce que "Identify Me", la campagne d'Interpol qui a permis d’identifier une femme, 20 ans après la découverte de son corps?250 ans des États-Unis: le visage de Donald Trump va figurer face aux pères fondateurs dans un nouveau passeport américain "en édition limitée"PSG-Bayern: nombre de buts marqués, records en pagaille... un match de légende, la preuve en statsRéouverture du site "Coco": on a créé un profil d'une fille de 13 ans, et le constat est terrifiant

🔗 Lire l'article original 👁️ 0 lecture