GPT-RedでGPT-5.6 Solのプロンプト注入失敗が6分の1に

安全評価が訓練ループに入った

OpenAIは7月15日のX投稿で、内部用の自動レッドチームモデルGPT-Redを示した。狙いは、モデルが広く使われる前にプロンプト注入の弱点を大規模に見つけ、その攻撃データをGPT-5.6の訓練へ戻すことだ。

"prompt injection vulnerabilities at scale" — OpenAI

注目すべき数字は6倍である。OpenAIの続く投稿と研究ページによれば、GPT-5.6 SolはGPT-Redの強い攻撃を再生した評価で、4カ月前の本番最良モデルより失敗が6倍少なかった。研究ページでは、GPT-Redが自己対戦型の強化学習で鍛えられ、ファイル、ウェブページ、メール、ツール出力などに悪意ある指示が紛れる状況を作ると説明されている。

OpenAIのXアカウントはモデル、製品、安全性研究の一次情報を出す場であり、この投稿は安全性改善を能力向上と同じようにスケールさせる試みである。一方で、GPT-Red自体は外部提供されない。強力な攻撃生成モデルは防御にも使えるが、悪用にも使えるためだ。次に見るべき点は、予告されたプリプリントと外部評価である。ブラウザ操作、開発エージェント、企業データ連携でも同じ防御効果が出るかが焦点になる。

Source: OpenAI on X