무슨 일이 있었나

OpenAI는 March 23, 2026 safety 글을 통해 Sora 2 model과 Sora app이 실제 서비스 환경에서 어떤 통제 장치 위에서 운영되는지 설명했다. 회사의 핵심 메시지는 video generation이 이제 단순한 model quality 경쟁이 아니라 provenance, consent, moderation, youth safety까지 함께 관리해야 하는 영역이라는 점이다. 즉 Sora의 경쟁력은 생성 결과물 자체뿐 아니라, 생성부터 공유까지 둘러싼 governance stack에서도 결정된다는 뜻이다.

가장 구체적인 장치는 provenance다. OpenAI는 모든 Sora 영상에 visible·invisible 신호가 들어가고, 모든 출력물에 C2PA metadata가 포함된다고 밝혔다. 또한 내부 reverse-image·audio search 도구를 통해 영상이 Sora에서 나왔는지 높은 정확도로 추적할 수 있다고 설명했다. 많은 결과물에는 creator 이름이 들어간 visible moving watermark도 붙는다. 이런 조합은 영상이 앱 바깥으로 퍼진 뒤에도 synthetic 여부를 식별하기 쉽게 만들려는 설계로 읽힌다.

consent와 age control

OpenAI는 실존 인물이 포함된 영상에 대해 더 강한 규칙을 적용한다고도 밝혔다. 사용자는 가족이나 친구 사진으로 image-to-video를 만들 수 있지만, 그 전에 consent와 업로드 권리를 보유했다는 점을 스스로 확인해야 한다. kids 또는 young-looking person이 포함된 경우에는 더 엄격한 guardrail이 적용되고, 공유되는 결과물에는 항상 watermark가 붙는다. Characters 기능은 appearance와 voice likeness를 consent 기반으로 관리하는 방식으로 소개됐고, 권한 회수와 결과물 검토도 가능하다고 한다.

teen 계정에 대한 보호도 별도로 제시됐다. OpenAI는 mature output 제한, adult의 teen 대상 DM 금지, ChatGPT parental control을 통한 direct message 및 non-personalized feed 관리, continuous scrolling 제한을 설명했다. harmful content 측면에서는 prompt와 output을 video frame 및 audio transcript 전반에서 검사해 sexual material, terrorist propaganda, self-harm promotion을 차단한다고 밝혔다. audio safeguard는 living artist나 기존 작품을 모방하는 음악 생성도 막는 방향으로 설계됐다고 한다.

왜 중요하나

이번 발표의 더 큰 의미는 frontier video system이 이제 단순한 content policy가 아니라 훨씬 두꺼운 governance layer와 함께 출시되고 있다는 점이다. 앞으로의 핵심 검증 포인트는 provenance가 재업로드 이후에도 유지되는지, consent 기능이 악용 압박을 견디는지, 그리고 다른 video AI 사업자들도 식별성과 youth protection을 기본값으로 채택하는지 여부다.

#sora

OpenAI, C2PA·consent control·teen protection 포함한 Sora safety stack 공개