OpenAI、ChatGPTにLockdown Mode導入 prompt injection対策とElevated Risk表示を標準化
Original: Introducing Lockdown Mode and Elevated Risk labels in ChatGPT View original →
OpenAIが2026年2月13日にChatGPT向けのLockdown ModeとElevated Risk labelsを公開した。OpenAIは、webやconnected appを使う複雑なAI systemが広がるにつれて、prompt injectionが特に重要な攻撃経路になってきたと説明している。今回の追加は、高リスク利用者にはより強い防御を提供し、それ以外の利用者にはどのcapabilityがどの程度のsecurity tradeoffを伴うかを可視化する狙いがある。
Lockdown Modeは、executiveやsecurity teamのように高度な攻撃の標的になりやすい一部ユーザー向けのoptional advanced security settingだ。このモードでは一部のtoolとcapabilityがdeterministically無効化され、web browsingもcached contentに限定されるため、live network requestがOpenAIのcontrolled networkの外へ出ない。OpenAIはこれによりprompt injection経由のdata exfiltrationリスクを下げるとしている。
- Lockdown ModeはChatGPT Enterprise、ChatGPT Edu、ChatGPT for Healthcare、ChatGPT for Teachersで提供
- Workspace Adminはrole-based controlで有効化できる
- 利用可能なappとapp actionはgranularに制御可能
- Elevated Risk labelはChatGPT、ChatGPT Atlas、Codexで共通表示へ
Elevated Risk labelの導入も重要だ。OpenAIはCodexのnetwork access設定を例に、internet accessを有効にすると何が変わり、どんな新しいリスクが生じ、どの場面でその権限が妥当なのかをsettings内で直接説明するとしている。これは、AI productが外部systemとつながるほど、利便性だけでなく運用上のリスクを明示する設計が必要になるという考え方を示している。
今回の発表は、AI safetyがmodel behaviorだけでなく、product architectureとenterprise controlsの問題でもあることをはっきり示した。OpenAIは今後数カ月でconsumer向けにもLockdown Modeを広げる計画を示したが、まずはenterprise寄りの環境から始めている。今後は、この種のdeterministic controlが実際のprompt injection対策としてどこまで有効か、そして他社が同様のsecurity postureを採るかが焦点になる。
Related Articles
OpenAIはprompt injection由来の情報流出リスクに対応するため、ChatGPTに新しいセキュリティ機能を追加した。まずはEnterprise/Eduなどの組織向けプランでLockdown Modeを提供し、高リスク機能にはElevated Riskラベルを付与する。
OpenAIは、ChatGPT に 70を超える主要な math・science 概念向けの dynamic visual explanation を導入すると発表した。formula、variable、graph をユーザーが直接動かしながら理解できるようにする機能で、2026年3月10日から全世界の全 plan に順次展開される。
OpenAIは2026年3月9日、Promptfooを買収すると発表した。OpenAIはPromptfooの技術がOpenAI Frontierにおけるagentic security testingとevaluation能力を強化すると説明し、Promptfooは現行ライセンスのままopen sourceを維持し、既存顧客へのサポートも継続すると述べた。
Comments (0)
No comments yet. Be the first to comment!