OpenAIはFebruary 25, 2026に公開したsecurity postで、"malicious uses of AI"に関する最新のthreat reportを発表した。会社は、この文書が自社モデルの悪用調査で得られたcase studyを基にしていると説明し、単なる取り締まり報告ではなく、調査担当者がオペレーション全体を追ったときに悪用がどのように現れるかを示すことに狙いがあると述べている。

中核となるポイントは、脅威アクターがAIを単一のモデルや単一の製品の中だけで使うわけではないという点だ。OpenAIによれば、悪性活動はWebサイト、social media account、その他の運用インフラと組み合わされるのが一般的で、しかも悪用は1つのAI providerだけに閉じない。Chinese influence operatorの事例を挙げながら、複数のモデルとplatformを横断しつつ、1つのcampaign objectiveを追うやり方を説明している。

OpenAIが強調したこと

AIの悪用は、単独のモデル利用ではなく広いworkflowの一部として行われることが多い。
攻撃者は複数serviceに作業を分散できるため、cross-platform investigationが重要になる。
case studyを公開する目的は、他社やdefenderが似た兆候をより早く見つけられるようにすることだ。

この整理は、frontier modelを本番導入している企業や政府にとって重要だ。記事が示すのは、安全対策がprompt filteringやmodel moderationだけで完結しないということだ。account monitoring、linkやinfrastructureの分析、incident response playbook、platform間の情報共有まで含めて初めて、組織的な悪用を大きくなる前に見つけやすくなる。

OpenAIは、この種のthreat reportを2年間にわたり公開してきたと説明し、今回の文書もindustryとwider societyが脅威をより早く識別し回避するためのbroader effortの一部だと位置づけている。要約だけでも明確なのは、モデルとの対話ログの外側にある運用文脈そのものが、いまや中心的なsecurity surfaceになっているということだ。

#threat-report

OpenAI、モデル・Web・SNSを横断する悪性AIキャンペーンの脅威レポート公開