最高でもC+、AI Safety Indexが示す安全コミットメントの後退

AI安全性の成績表で、最高点はC+にとどまった。Axiosが報じたFuture of Life InstituteのSummer 2026 AI Safety Indexは、主要AI企業9社を6領域、37指標で評価している。これは勝者を決める表というより、最上位企業でも十分な安全水準に届いていないという警告だ。

FLIのindexでは、AnthropicがC+、2.66点で首位に立った。OpenAIはC、2.28点、Google DeepMindもC、2.01点だった。MetaはD+へ改善し、Z.aiとAlibaba CloudはD-、xAI、DeepSeek、MistralはFを受けている。順位差はあるが、B以上の企業がないことの方が重い。

評価対象はrisk assessment、current harms、safety frameworks、existential safety、governance and accountability、information sharingの6領域だ。業界全体で最も弱いのはexistential safetyだった。FLIによれば、どの企業もC-を超えず、多くはD以下に沈んだ。安全フレームワークやモデルカード、公開文書は増えたが、独立監査、定量的なしきい値、最終判断権限はまだ弱いという評価になる。

今回の報告で特に目立つのは、redlineに関する約束の後退だ。FLIはAnthropic、OpenAI、Google DeepMind、Metaが、危険な能力水準に近づいた場合に開発やリリースを停止するという過去の約束を弱めた、または実質的に無効化したと見ている。一部の枠組みでは、競合他社も同じ条件を守る場合に限って停止するという条件が付く。能力競争が速くなるほど、この種の条件付き約束はブレーキとして弱くなる。

軍事利用も焦点だ。報告書は、2024年から2026年にかけて、かつて軍事用途を制限していた企業が防衛パートナーシップへ徐々に動いたと指摘する。モデルアクセス、cyber operation、標的支援、自律兵器との境界が独立して監査されない場合、current harm riskは高まる。

ただし、評価には範囲の限界がある。indexが集めた証拠は2026年6月3日までで、その後のモデル公開や政策変更は含まれない。open-source側は、透明性そのものがリスクの計算を変えると反論する可能性もある。それでも、この成績表が示す基準は明確だ。安全を語る文書は増えたが、強制力のある安全アーキテクチャはまだ不足している。