米商務省、Google・Microsoft・xAIの新AIモデルを公開前に審査——Claude Mythosが政策転換を促す

Claude Mythosが促した政策転換

米国商務省のAI基準革新センター（CASI）は5月5日、Google DeepMind、Microsoft、xAIと合意を締結し、これらの企業が開発する新型AIモデルを公開前に国家安全保障と公衆安全の観点から審査すると発表した。

きっかけとなったのは、Anthropicのサイバーセキュリティ特化モデルClaude Mythosだ。同モデルは主要なOSとWebブラウザすべてにおいて数千件のゼロデイ脆弱性を完全自律的に特定・悪用できる能力を示し、AIのサイバー兵器化への懸念を高めた。

FDA式審査の導入を検討

ホワイトハウスの経済顧問ケビン・ハセットはFox Businessのインタビューで、「AIモデルが安全に公開されるための明確なロードマップを示す大統領令を検討している」と述べ、具体的にFDAの医薬品審査プロセスをAIモデルに適用する考えを示した。これは同政権がこれまで掲げてきた規制最小化の方針からの大きな転換だ。

CAISはすでに40件以上のAIモデル評価を完了しており、今後は公開前審査に加え、展開後の継続的なモニタリングも行う予定だ。なお、今回の政策論争の引き金となったAnthropicは合意から除外されているが、自社ではMythosへのアクセスを厳しく制限する対応を取っている。

出典: CNBC · Washington Post