Open-weight規制反対の公開書簡、LocalLLaMAで焦点になった署名企業

r/LocalLLaMAで大きく読まれた投稿は、Microsoftが公開した「Open Weights and American AI Leadership」を取り上げたものだ。NVIDIA、Meta、Microsoft、Palantir、Hugging Face、Mistral、Mozilla、IBM、Perplexity、Replit、Y Combinatorなど20以上の組織が署名した。議論の中心は、規制反対そのものだけではなく、この連合の顔ぶれだった。

書簡は、open-weight AIがアクセスを広げ、競争を強め、顧客により大きなcontrolを与えると主張する。Microsoftはopen-weight modelを、誰でもdownloadし、inspectし、modifyし、自社のinfrastructureで実行できるモデルとして説明している。startup、大学、公的機関、企業が、すべてのtaskでfrontier-model価格を払わずに済むという経済的な論点も強い。

安全性についても単純な楽観論ではない。weightsが公開されると、元の開発者のcontrolを離れ、改変版の追跡が難しくなるリスクは認めている。そのうえで、答えはopen weightsの禁止ではないとする。防御側にも高性能なモデルが必要であり、より広い研究者と開発者のコミュニティが挙動を調べ、脆弱性を見つけ、safeguardを作れるという考え方だ。

Redditで特に議論されたのはdistillationだった。書簡は、正当なmodel-development techniqueとmisappropriationを混同すべきではないと述べる。distillationは改善、評価、検証に使われる一般的な手法であり、closed modelから不正に価値を抜き出す行為とは別に扱うべきだという立場だ。

一方で、コミュニティは動機にも目を向けた。署名企業の多くは、少数のAPI providerに依存したくないという現実的な利害を持つ。open model ecosystemに有利な結果になり得るとしても、これは理想論だけではなくmarket powerをめぐる争いでもある。

Reddit discussion / source letter