Googleの国防総省AI契約、機密網へ前進　安全設定の調整権は政府側

Googleが軍事AIの中心へ一段踏み込んだ。今回のニュースで重いのは参加の是非ではなく、配備後の統制権だ。4月28日のReuters報道によると、Googleは米国防総省と機密業務向けAI契約を結び、政府要請に応じて安全設定やフィルターを調整する枠組みまで含めたという。

ここで論点が変わる。主要AIラボはこれまで、国内大規模監視や完全自律兵器には線を引くと公に語ってきた。Reutersは The Information の報道を引用し、この契約にも、国内大規模監視や適切な human oversight を欠く autonomous weapons には使うべきではないという趣旨が盛り込まれていると伝えた。だが同時に、合法な政府の作戦判断についてGoogleが統制権や拒否権を持たないとも報じた。原則文言は残っていても、モデルが機密環境に入った後の実権は顧客側へ寄る可能性がある。

この点が重いのは、機密ネットワークの用途が明確だからだ。Reutersによれば、こうした環境は mission planning や weapons targeting のような極めてセンシティブな業務で使われる。さらに国防総省は2025年に Anthropic、OpenAI、Google とそれぞれ最大2億ドル規模のAI契約を結び、consumer や enterprise 向けより制約の少ない形で機密システムへの導入を求めてきた。Googleは Reuters に対し、human oversight のない autonomous weaponry や国内 mass surveillance には反対する立場を維持すると述べた。

タイミングも鋭い。Anthropicは autonomous weapons と domestic surveillance に関する guardrail を外さず、今年すでにペンタゴンと衝突した。Googleの道筋はそれと違う。防衛需要を受け入れ、原則は残しつつ、強い veto より契約運用に寄せる。この違いは、政府調達が入った後の commercial AI governance がどう変わるかを示している。

結局、次の本題はここだ。軍と協力するかではなく、配備後にもラボがどこまで control を保てるか。Reutersの報道は、その答えが多くの企業広報より狭いかもしれないと示した。元記事は こちら。