Anthropic has staked out a nuanced position on open-weight AI models, breaking its silence amid a broad industry push to champion their benefits. While nearly a hundred organizations—including Google, Meta, Microsoft, NVIDIA, and belatedly OpenAI—signed an open letter touting the economic and societal upside of open-weight models, Anthropic was conspicuously absent. That omission was read by some as tacit support for Trump-era efforts to curb open models in order to protect a business built solely on closed, proprietary systems.

CEO Dario Amodei rejects that narrative. Banning open-weight models is not the answer, he says; he supports them—provided they don’t pose a danger. Referencing his essay *The Adolescence of Technology*, Amodei warns that authoritarian regimes could develop AI more powerful than the U.S.’s and exploit it for military, intelligence, and surveillance ends—a concern echoed by Vice President J.D. Vance at the 2025 AI Summit.

Amodei argues open-weight models magnify risks of cyber and biological misuse. Once weights are published, they cannot be recalled, and applying or enforcing safeguards becomes extremely difficult. He cites a UK AI Safety Institute assessment that open-weight models create a “persistent and irreversible risk of misuse” by permanently losing control over guardrails and user access.

Outright prohibition would solve nothing, he contends—though he concedes it would shield companies like Anthropic. Instead, he reiterates a two-pronged solution: block the sale of advanced chips and chip-making equipment to China, and crack down on export-control circumvention. Absent access to American silicon, Amodei maintains, China’s limited manufacturing capacity will prevent it from overtaking the U.S. under current scaling laws. He also calls for mandatory safety testing of all sufficiently capable models, regardless of origin—which would require Beijing’s cooperation—and urges political and legal action against “industrial-scale distillation” of closed models into open ones.

Amodei aligns with the open-letter signatories on the economic promise of AI and, in some cases, on giving users greater control. But he disputes claims that openness inherently aids the development of safeguards or favors defenders over attackers. In cybersecurity, he sees no clear advantage; in biology, he projects a stark asymmetry: a powerful model could rapidly weaponize a pandemic-level virus, while mounting a defense would take years.

On pouvait s’y attendre : Anthropic a fini par communiquer une position officielle sur les modèles à poids ouverts (open-weight).

En toile de fond, un ralliement massif de la tech américaine en faveur de ces modèles, dans un contexte qui incite Washington à y restreindre l’accès.

Près d’une centaine d’organisations – dont Google, Meta, Microsoft, NVIDIA et OpenAI* – ont signé une lettre ouverte vantant les bénéfices de l’open-weight pour l’économie et la société. Anthropic n’est pas dans la boucle. D’aucuns y ont perçu une forme de soutien aux ambitions de l’administration Trump, dans l’optique de protéger son activité, fondée exclusivement sur la commercialisation de modèles fermés.

L’open-weight, porteur de risques irréversibles ?

Dario Amodei nie cette version des faits. Interdire les modèles open-weight n’est pas la solution, affirme le patron d’Anthropic. L’intéressé s’y dit même favorable… aussi longtemps qu’ils ne présentent pas de danger. Et de se référer à son essai « L’Adolescence de la technologie », écrit en début d’année. Il y expose notamment sa crainte que des « gouvernements autoritaires » parviennent à développer des IA « plus puissantes que celles des États-Unis » et qu’elles les exploitent pour « renforcer leurs capacités militaires, de renseignement et de surveillance ». Ces préoccupations rejoignent celles que J.D. Vance avait exprimées au Sommet de l’IA 2025.

Dario Amodei redoute aussi l’usage abusif de l’IA pour des attaques informatiques ou biologiques. En la matière, les modèles open-weight présentent un plus grand risque que les modèles fermés, clame-t-il. Motif : il est très difficile de leur appliquer des garde-fous ou de surveiller leur usage. Et une fois les poids publiés, on ne peut plus les rappeler… Pour appuyer son propos, le dirigeant mentionne un commentaire de l’AI Safety Institute britannique. Celui-ci constate que l’ouverture des poids « crée un risque persistant et irréversible d’usage abusif » en faisant « définitivement perdre » le contrôle sur las garde-fous et les accès utilisateurs.

Anthropic appelle (à nouveau) à restreindre l’accès aux puces et la distillation

Une interdiction pure et simple d’utilisation des modèles open-weight ne résoudrait rien, estime Dario Amodei. Cela protégerait effectivement des entreprises comme Anthropic, admet-il. « Mais cela n’a jamais été mon objectif »…

Pour lui, la principale solution consisterait à ne pas vendre à la Chine des « puces puissantes », ni des équipements pour fabriquer ces puces. Tout en agissant en parallèle contre le contournement des restrictions à l’export. Le patron d’Anthropic tient depuis longtemps ce discours. La Chine a une capacité de production limitée, veut-il croire : les lois d’échelle font que sans puces américaines, elle ne pourra pas développer de modèles plus puissants que les États-Unis.

Deuxième levier, suggéré lui aussi de longue date : agir politiquement contre les « opérations industrielles de distillation ». Dario Amodei y ajoute des tests de sûreté obligatoires pour tous les modèles « suffisamment capables », qu’ils soient ouverts ou fermés, et peu importe leur pays d’origine. Cela implique que Pékin collabore. Anthropic considère qu’une coopération limitée est possible sur le risque de conception d’armes biologiques, la Chine y ayant son intérêt.

Des risques d’asymétrie attaquant-défenseur

Dario Amodei est en phase avec les signataires de la lettre ouverte sur l’idée que la réponse au problème de la distillation doit passer par des cadres juridiques et commerciaux ciblés. Il se dit plus globalement d’accord quant aux bénéfices économiques et sociétaux de l’IA. Ainsi que, « au moins dans certains cas », quant au contrôle accru donné aux utilisateurs.

Le dirigeant ne pense en revanche pas que l’ouverture favorise nécessairement le développement de garde-fous. Ni qu’en matière de cyber, elle bénéficie forcément plus aux défenseurs qu’aux attaquants. « L’inverse est au moins aussi probable », juge-t-il, projetant par exemple une forte asymétrie sur la biologie. Des modèles suffisamment puissants pourraient rapidement transformer en armes des virus de niveau pandémiques, alors que la défense contre ces virus serait un chantier de plusieurs années.

* OpenAI n’avait pas immédiatement signé la lettre.

Illustration générée par IA

The post Anthropic et les modèles open-weight : oui, mais… appeared first on Silicon.fr.