On pouvait s’y attendre : Anthropic a fini par communiquer une position officielle sur les modèles à poids ouverts (open-weight). En toile de fond, un ralliement massif de la tech américaine en faveur de ces modèles, dans un contexte qui incite Washington à y restreindre l’accès. Près d’une centaine d’organisations – dont Google, Meta, Microsoft, NVIDIA et OpenAI* – ont signé une lettre ouverte vantant les bénéfices de l’open-weight pour l’économie et la société.

Anthropic n’est pas dans la boucle. D’aucuns y ont perçu une forme de soutien aux ambitions de l’administration Trump, dans l’optique de protéger son activité, fondée exclusivement sur la commercialisation de modèles fermés. L’open-weight, porteur de risques irréversibles ?

Dario Amodei nie cette version des faits. Interdire les modèles open-weight n’est pas la solution, affirme le patron d’Anthropic. L’intéressé s’y dit même favorable… aussi longtemps qu’ils ne présentent pas de danger.

Et de se référer à son essai « L’Adolescence de la technologie », écrit en début d’année. Il y expose notamment sa crainte que des « gouvernements autoritaires » parviennent à développer des IA « plus puissantes que celles des États-Unis » et qu’elles les exploitent pour « renforcer leurs capacités militaires, de renseignement et de surveillance ». Ces préoccupations rejoignent celles que J.D.

Vance avait exprimées au Sommet de l’IA 2025. Lire aussi : L'Europe ne questionne plus sa dépendance à l'IA américaine, elle la subit… Dario Amodei redoute aussi l’usage abusif de l’IA pour des attaques informatiques ou biologiques.

En la matière, les modèles open-weight présentent un plus grand risque que les modèles fermés, clame-t-il. Motif : il est très difficile de leur appliquer des garde-fous ou de surveiller leur usage. Et une fois les poids publiés, on ne peut plus les rappeler…

Pour appuyer son propos, le dirigeant mentionne un commentaire de l’AI Safety Institute britannique. Celui-ci constate que l’ouverture des poids « crée un risque persistant et irréversible d’usage abusif » en faisant « définitivement perdre » le contrôle sur las garde-fous et les accès utilisateurs. Anthropic appelle (à nouveau) à restreindre l’accès aux puces et la distillation Une interdiction pure et simple d’utilisation des modèles open-weight ne résoudrait rien, estime Dario Amodei.

Cela protégerait effectivement des entreprises comme Anthropic, admet-il. « Mais cela n’a jamais été mon objectif »… Pour lui, la principale solution consisterait à ne pas vendre à la Chine des « puces puissantes », ni des équipements pour fabriquer ces puces.

Tout en agissant en parallèle contre le contournement des restrictions à l’export. Le patron d’Anthropic tient depuis longtemps ce discours. La Chine a une capacité de production limitée, veut-il croire : les lois d’échelle font que sans puces américaines, elle ne pourra pas développer de modèles plus puissants que les États-Unis.

Deuxième levier, suggéré lui aussi de longue date : agir politiquement contre les « opérations industrielles de distillation ». Dario Amodei y ajoute des tests de sûreté obligatoires pour tous les modèles « suffisamment capables », qu'ils soient ouverts ou fermés, et peu importe leur pays d'origine. Cela implique que Pékin collabore.

Anthropic considère qu'une coopération limitée est possible sur le risque de conception d'armes biologiques, la Chine y ayant son intérêt. Des risques d'asymétrie attaquant-défenseur Dario Amodei est en phase avec les signataires de la lettre ouverte sur l'idée que la réponse au problème de la distillation doit passer par des cadres juridiques et commerciaux ciblés. Il se dit plus globalement d'accord quant aux bénéfices économiques et sociétaux de l'IA.

Ainsi que, « au moins dans certains cas », quant au contrôle accru donné aux utilisateurs. Le dirigeant ne pense en revanche pas que l'ouverture favorise nécessairement le développement de garde-fous. Ni qu'en matière de cyber, elle bénéficie forcément plus aux défenseurs qu'aux attaquants.

« L'inverse est au moins aussi probable », juge-t-il, projetant par exemple une forte asymétrie sur la biologie. Des modèles suffisamment puissants pourraient rapidement transformer en armes des virus de niveau pandémiques, alors que la défense contre ces virus serait un chantier de plusieurs années. * OpenAI n'avait pas immédiatement signé la lettre. Illustration générée par IA