Anthropicのopen weights声明、焦点は「禁止」より安全性検査へ

Anthropic CEOのDario Amodeiは2026年7月27日、open-weights modelsに関する同社の立場を公開した。背景には、中国のopen-weightモデルを米国企業が使うことを制限する案と、open weightsを支持する企業連名の動きがある。Amodeiは、Anthropicがopen-weightモデルの禁止を主張したことはないと明記し、危険なcapabilityを持たないopen-weightモデルは企業、開発者、研究者にとってpublic goodだと述べている。

ただし、これは全面的な賛成声明ではない。Amodeiは二つの懸念を分けている。一つは、権威主義的な政府が米国を上回るモデルを作り、軍事的優位や国内抑圧に使う可能性。もう一つは、強力なモデルがcyberattackやbiological attackに悪用されるリスク、そしてalignment問題だ。open weightsは一度出ると回収できず、利用状況の監視も難しいという点が、closed modelとの違いとして扱われている。

Anthropicが支持する対策は、強力なchipやchipmaking equipmentの対中販売制限、industrial-scale distillationへの対応、十分に強力なopenまたはclosedモデルすべてに対するdeployment前のmandatory safety testingだ。Hacker Newsで議論が集中したのは最後の項目だった。検査を誰が運営するのか、費用はどれほどか、通過の可否が事実上の許認可になればopen weightsに過度な負担をかけないか、という疑問が出ている。

distillation規制にも批判が集まった。モデル企業が広範な公開・非公開の人間の知識を学習してきた一方で、自社モデルの出力からの大規模抽出を制限しようとする構図に違和感がある、という指摘だ。一方で、cyberやbio misuseのリスクを軽く扱えないという反論もある。

この投稿の意味は、open weightsをめぐる議論をスローガンから制度設計へ移した点にある。禁止に反対することは比較的簡単だが、safety testing、chip controls、distillation enforcementは、運用者と費用次第でまったく違う影響を持つ。原文はAnthropic、議論はHacker Newsで読める。