OpenAI、C2PA・consent control・teen protection を含む Sora safety stack を公開

何が起きたか

OpenAIはMarch 23, 2026の safety post で、Sora 2 model と Sora app が本番環境でどのような control stack の上に置かれているかを説明した。メッセージは明確で、video generation はもはや model quality だけの問題ではなく、provenance、consent、moderation、youth safety を同時に扱うべき領域だということだ。Sora の競争力は生成品質だけでなく、作成から共有までを囲む governance layer でも評価される段階に入っている。

もっとも具体的なのは provenance の設計だ。OpenAIによれば、すべてのSora動画には visible と invisible の signal が入り、すべての output に C2PA metadata が埋め込まれる。また、内部の reverse-image・audio search tool によって動画を高精度で Sora に遡れるという。多くの output には creator 名を含む visible moving watermark も付与される。こうした組み合わせは、clip が app の外へ拡散した後でも synthetic video であることを見分けやすくする狙いがある。

consent と age control

OpenAIは、実在人物を含む動画に対してさらに厳しい扱いを採ると説明した。family や friends の写真から image-to-video を作ることは可能だが、その前に user は consent と upload 権利を持つと attest する必要がある。kids や young-looking person を含む場合は guardrail が一段と厳しくなり、共有される output には必ず watermark が付く。Characters 機能は appearance と voice likeness を consent ベースで管理する仕組みとして位置づけられ、権限の revoke や output の確認も可能だという。

teen保護も別建てで示された。OpenAIは mature output の制限、adult から teen への message 開始禁止、ChatGPT parental controls による direct message と non-personalized feed の管理、continuous scrolling の制限を説明している。harmful content については prompt と output を video frame と audio transcript 全体で検査し、sexual material、terrorist propaganda、self-harm promotion を block するとした。audio safeguard は living artist や既存作品を模倣する music generation も防ぐ方向で設計されている。

次に見るべき点

この発表の大きな意味は、frontier video system が単なる content policy ではなく、より厚い governance layer と一緒に出荷され始めたことにある。今後の焦点は、provenance が repost 後も機能するか、consent 機能が abuse pressure に耐えられるか、そして他の video AI provider も identification と youth protection を default にするかどうかだ。