OpenAI는 February 25, 2026 보안 공지를 통해 "malicious uses of AI"에 관한 최신 위협 보고서를 공개했다. 회사는 이번 문서가 자사 모델 오남용 조사에서 나온 case study를 바탕으로 작성됐다고 설명하며, 단순히 제재 사실을 알리는 데 그치지 않고 실제 악용이 어떤 운영 흐름 속에서 나타나는지를 끝까지 추적해 보여주는 데 목적이 있다고 밝혔다.

핵심 메시지는 위협 행위자가 AI를 하나의 모델이나 하나의 제품 안에서만 사용하지 않는다는 점이다. OpenAI는 악성 활동이 웹사이트, 소셜 미디어 계정, 기타 운영 인프라 같은 기존 도구와 함께 결합되는 경우가 일반적이라고 설명했다. 또한 악용이 하나의 AI provider에만 머물지 않는다고 강조하며, Chinese influence operator 사례를 통해 행위자가 여러 모델과 플랫폼을 오가며 하나의 캠페인 목표를 추진할 수 있다고 밝혔다.

OpenAI가 강조한 지점

AI 악용은 독립된 모델 상호작용이 아니라 더 넓은 운영 workflow 안에 놓이는 경우가 많다.
공격자는 여러 서비스를 분산 사용하기 때문에 cross-platform investigation이 중요하다.
이런 case study를 공개하는 이유는 다른 기업과 defender가 유사한 패턴을 더 빨리 식별하도록 돕기 위해서다.

이 관점은 frontier model을 실제 업무 환경에 투입하는 기업과 정부에 중요하다. 이 글이 시사하는 바는 안전 조치가 prompt filtering이나 model moderation에서 끝나면 안 된다는 점이다. 계정 모니터링, 링크와 인프라 분석, incident response playbook, 플랫폼 간 정보 공유까지 갖춰야 조직적인 악용을 본격화되기 전에 탐지할 수 있다는 것이다.

OpenAI는 이런 threat report를 2년 동안 발행해 왔다고 설명하며, 이번 문서 역시 업계와 wider society가 위협을 더 잘 식별하고 피할 수 있도록 돕는 broader effort의 일부라고 밝혔다. 요약만 봐도 분명한 점은 모델 대화 로그 바깥의 운영 맥락 자체가 이제 핵심 security surface가 됐다는 사실이다.

#abuse-detection

OpenAI, 모델·웹사이트·소셜 플랫폼을 넘나드는 악성 AI 캠페인 위협 보고서 공개