● Silicon.fr Télécom 📅 26/03/2026 à 09:40

Data Science 👤 Clément Bohic

🏷️ Tags : llm cert pm rag rte

OVHcloud a désormais un « labo IA ». L’entité proposera des « services dans l’IA générative pour les données sensibles ». Elle naît d’une acquisition : celle de Dragon LLM. Cette PME francilienne – petite entreprise selon les seuils du Code de commerce – dispose d’une expertise en fine-tuning (conception de modèles spécialisés). Elle a longtemps ciblé le secteur financier sous la marque Lingua Custodia, avec des services de traitement documentaire – extraction, transcription, traduciton… – fournis tant en SaaS que par API (offre VERTO). Un virage fut pris à l’automne 2025, parallèlement à la présentation d’une architecture alternative à Transformers. Elle combine de multiples techniques existantes pour dépasser, en particulier, les limites que le mécanisme d’autoattention présente lors de l’inférence (cf. notre article à son sujet). Lire aussi : Architectures LLM : Dragon, une recette alternative origine France En toile de fond, le Large AI Grand Challenge. Cette compétition s’est inscrite dans le projet européen AI-BOOST, censé en organiser 6 autres à l’horizon 2027 pour encourager l’innovation scientifique ouverte dans le domaine de l’IA. Il s’agissait de développer, en partant de zéro, un LLM de fondation d’au moins 30 milliards de paramètres « plus performant que les systèmes à l’état de l’art sur un certain nombre de tâches ». Lingua Custodia a fait partie des lauréats. Elle a ainsi obtenu 3,2 millions d’heures de calcul sur des supercalculateurs d’EuroHPC (LEONARDO, situé en Italie, et JUPITER, implanté en Allemagne). Le modèle qui en a résulté n’a pas la taille attendue (3,6B). Et il s’agit d’un modèle de base (non entraîné pour le suivi d’instructions). Il est toutefois une vitrine pour l’architecture alternative de Dragon LLM. Un bouquet de LLM financiers Ce modèle est publié sur Hugging Face, comme une vingtaine d’autres. Parmi eux, ClassiFin, un classifieur Bert qui détermine si un document est ou non du domaine financier. Il utilise un modèle Snowflake Arctic pour l’embedding. Il y a aussi la famille FinTranslate. Elle comprend 6 modèles de 70M à 7B, couvrant 8 langues et 9 domaines. Leur architecture est proche de celle des modèles de la suite Pythia d'EleutherAI. Dragon LLM a aussi publié un descendant de Pythia-1.4B, : Fin-Pythia-1.4B, dédié à l'analyse de sentiment sur les textes financiers. Il a également une famille de modèles « LLM Pro Finance », pour les questions-réponses en économie et finances. Ils sont basés sur Gemma, Llama et Qwen. Illustration principale générée par IA

🔗 Lire l'article original 👁️ 0 lecture