OpenAI、ChatGPTにLockdown Mode導入 prompt injection対策とElevated Risk表示を標準化
Original: Introducing Lockdown Mode and Elevated Risk labels in ChatGPT View original →
OpenAIが2026年2月13日にChatGPT向けのLockdown ModeとElevated Risk labelsを公開した。OpenAIは、webやconnected appを使う複雑なAI systemが広がるにつれて、prompt injectionが特に重要な攻撃経路になってきたと説明している。今回の追加は、高リスク利用者にはより強い防御を提供し、それ以外の利用者にはどのcapabilityがどの程度のsecurity tradeoffを伴うかを可視化する狙いがある。
Lockdown Modeは、executiveやsecurity teamのように高度な攻撃の標的になりやすい一部ユーザー向けのoptional advanced security settingだ。このモードでは一部のtoolとcapabilityがdeterministically無効化され、web browsingもcached contentに限定されるため、live network requestがOpenAIのcontrolled networkの外へ出ない。OpenAIはこれによりprompt injection経由のdata exfiltrationリスクを下げるとしている。
- Lockdown ModeはChatGPT Enterprise、ChatGPT Edu、ChatGPT for Healthcare、ChatGPT for Teachersで提供
- Workspace Adminはrole-based controlで有効化できる
- 利用可能なappとapp actionはgranularに制御可能
- Elevated Risk labelはChatGPT、ChatGPT Atlas、Codexで共通表示へ
Elevated Risk labelの導入も重要だ。OpenAIはCodexのnetwork access設定を例に、internet accessを有効にすると何が変わり、どんな新しいリスクが生じ、どの場面でその権限が妥当なのかをsettings内で直接説明するとしている。これは、AI productが外部systemとつながるほど、利便性だけでなく運用上のリスクを明示する設計が必要になるという考え方を示している。
今回の発表は、AI safetyがmodel behaviorだけでなく、product architectureとenterprise controlsの問題でもあることをはっきり示した。OpenAIは今後数カ月でconsumer向けにもLockdown Modeを広げる計画を示したが、まずはenterprise寄りの環境から始めている。今後は、この種のdeterministic controlが実際のprompt injection対策としてどこまで有効か、そして他社が同様のsecurity postureを採るかが焦点になる。
Related Articles
OpenAIはprompt injection由来の情報流出リスクに対応するため、ChatGPTに新しいセキュリティ機能を追加した。まずはEnterprise/Eduなどの組織向けプランでLockdown Modeを提供し、高リスク機能にはElevated Riskラベルを付与する。
重要なのは、ChatGPTのログイン1つが個人の文脈だけでなく業務ツールにもつながる入口になったことだ。OpenAIの新モードはpassword loginとemail・SMS recoveryを無効化し、6月1日からTrusted Access for Cyber個人利用者には必須になる。
OpenAIが5月15日、ChatGPT Proユーザー向けに個人資産管理機能のプレビューを公開した。Plaid経由で1万2000以上の金融機関と口座を連携し、支出分析・サブスクリプション管理・投資残高を会話形式で照会できる。送金や決済は一切できない読み取り専用サービスだ。
Comments (0)
No comments yet. Be the first to comment!