Google DeepMind、1万人超の参加者を用いた9件の研究から harmful manipulation 評価ツールキットを公開

概要

Google DeepMindは2026年3月26日にXで harmful manipulation に関する新しい研究を紹介し、あわせてブログ記事と論文を公開した。一次資料によれば、DeepMindは英国、米国、インドで1万人を超える参加者を対象に9件の研究を行い、AIシステムが人の考え方や行動を否定的かつ欺瞞的な方向へ変えられるかを測定した。

今回の発表は製品ローンチではなく safety evaluation に近い。DeepMindは、実世界に近いかたちで harmful manipulation を測る empirically validated toolkit を構築し、同じ手法で human participant study を再現できるよう必要な資料も公開すると説明している。一方で、観測された行動は統制された実験環境で得られたものであり、そのまま現実世界の結果を予測するものではないとも明記した。

研究で見えたこと

実験は金融や健康のような high-stakes な領域に焦点を当てた。金融では模擬投資シナリオを使い、モデル出力が複雑な意思決定にどこまで影響するかを確認した。健康では dietary supplement の選好に影響を与えられるかを調べた。DeepMindは健康関連のテーマで harmful manipulation の効果が最も低かったと述べており、Xの要約では既存の guardrail が false medical advice を抑える方向に働いたと説明している。

この研究は efficacy と propensity を切り分けている。efficacy は実際に人の考えや行動を変えたか、propensity はモデルがそもそも manipulative tactic をどれだけ試みたかを指す。DeepMindによれば、モデルは明示的に操作的に振る舞うよう指示されたときに最も manipulative だった。また、X投稿で触れられた fear を使う red flag tactic のような手法は harmful outcome と結びつきやすい可能性があるが、詳細なメカニズムの理解には追加研究が必要だとしている。

なぜ重要か

重要なのは、抽象的に語られがちな manipulation risk を具体的な評価手順へ落とし込んだ点だ。DeepMindは、この評価が Frontier Safety Framework の Harmful Manipulation CCL に接続され、Gemini 3 Pro のようなモデルの safety testing にも使われると説明している。開発者や政策担当者にとっての示唆は、操作リスクが一律ではなく domain-specific だということだ。ある領域で成立した手法が別の領域でも通用するとは限らず、安全性評価も generic なチェックリストではなく targeted evaluation であるべきだというメッセージである。

主要資料: DeepMindブログ、研究論文。