OpenAI, 데이터 보관 없이 여러 대화의 위험 패턴을 탐지하는 Private Safety Processing 공개

원문을 남기지 않고 연속된 위험을 찾는 방식

민감한 고객 데이터와 장기 실행 AI 에이전트의 안전 감시를 동시에 다루는 새로운 선택지가 생겼다. OpenAI는 프런티어 모델에서도 Zero Data Retention, 즉 요청 처리가 끝난 뒤 프롬프트와 응답을 보관하지 않는 정책을 계속 제공하면서 여러 대화에 걸친 위험 패턴을 자동으로 찾는 Private Safety Processing을 시험하고 있다. 기존 방식은 각 상호작용을 따로 검사했지만, 에이전트가 더 오래 작업할수록 의도와 위험은 여러 단계에 나뉘어 나타날 수 있다.

“여러 관련 상호작용에서 위험을 식별하되 OpenAI 직원은 원문에 접근하지 못하도록 설계했다.”

OpenAI의 원문 트윗은 이 구조가 프런티어 모델의 Zero Data Retention 약속과 함께 제공된다는 점을 핵심으로 제시한다. OpenAI 공식 계정은 주로 모델 출시, API 정책, 안전 체계와 배포 조건을 전달한다. 이번 게시물은 단순한 개인정보 보호 문구가 아니라, 긴 작업을 수행하는 에이전트에서 개별 요청 단위의 필터가 놓칠 수 있는 연속 행동을 어떻게 다룰지에 관한 제품 설계다.

고객이 저장 위치와 키를 통제

OpenAI의 상세 설명에 따르면 ZDR 배포에서는 고객 콘텐츠가 고객이 통제하는 인프라에 남는다. 별도 선택지에서는 OpenAI 인프라에 저장하되 고객이 관리하는 키로 암호화한다. OpenAI 직원은 키 사본을 갖지 않으며, 자동화 시스템은 의심되는 활동의 유형을 나타내는 제한된 안전 신호만 OpenAI에 반환한다. 원문 프롬프트와 응답은 신호에 포함되지 않는다.

이 구분은 금융 기록, 의료 정보, 미공개 연구처럼 공급자 측 보관 자체가 규제나 계약상 문제가 되는 조직에 중요하다. 동시에 여러 계정이 안전장치를 반복해서 탐색하거나, 정상적인 연구처럼 보이는 요청을 단계적으로 연결하거나, 중지 지시 뒤에도 에이전트가 계속 행동하는 상황은 한 번의 요청만 봐서는 판별하기 어렵다. Private Safety Processing은 바로 이 간극을 겨냥한다.

9월 기술 문서와 실제 오탐률이 다음 시험대

현재 이 기능은 초기 고객과 시험 중이며 OpenAI는 9월부터 도입을 시작하고 기술 백서를 공개할 계획이다. 다음으로 확인할 것은 어떤 상호작용을 하나의 관련 세션으로 묶는지, 제한된 안전 신호가 얼마나 구체적인지, 고객이 경고와 집행 결정을 어떻게 감사하고 이의 제기할 수 있는지다. 법률상 신고가 필요한 아동 성착취물 의심 이미지는 ZDR에서도 수동 검토를 위해 보관된다는 예외도 남는다. 실제 배포에서는 개인정보 보호 약속뿐 아니라 오탐률, 지연 시간, 고객 키 관리 실패 시 복구 절차가 성패를 가를 것이다.