Anthropic, Claude 대상 대규모 증류 공격 주장…2.4만 계정·1,600만 대화 언급

Anthropic은 2026년 2월 23일 X 게시물에서 DeepSeek, Moonshot AI, MiniMax가 자사 모델을 상대로 “industrial-scale distillation attacks”를 벌였다고 주장했다. 회사는 이 활동이 24,000개가 넘는 fraudulent account와 16 million건이 넘는 Claude 상호작용을 포함했다고 설명했다. 중요한 지점은 이것이 단순한 경쟁 압박이나 일반적인 오남용이 아니라, model output extraction을 보안과 플랫폼 무결성 문제로 공개 규정했다는 점이다.

실무적으로 distillation은 더 강한 모델의 출력을 이용해 다른 모델을 학습하거나 개선하는 방식을 뜻한다. Anthropic의 주장은 이러한 행위가 공개적으로 문제를 제기할 만큼 큰 규모로 이뤄졌다는 것이다. 다만 해당 X 글에는 완전한 방법론, 원시 로그, 세부 기술 증거가 포함돼 있지 않다. 따라서 이 사안은 독립적으로 검증된 결론이라기보다 Anthropic의 공개 주장으로 읽어야 한다. 그럼에도 게시물에 제시된 수치는 AI 업계 전반에서 주목할 만한 규모다.

정책적 함의도 크다. frontier lab들이 fraudulent account나 조직적 네트워크를 통한 대규모 output extraction이 실제로 발생한다고 판단한다면, 이상 징후 탐지, 계정 검증, 사용 통제, 계약 집행에 더 많은 투자를 하게 될 가능성이 높다. 이는 합법적 개발자에게도 마찰을 늘릴 수 있으며, 특히 대규모 자동화 워크로드나 다지역 인프라를 운영하는 팀에 더 직접적인 영향을 줄 수 있다.

더 넓게 보면 모델 도용과 모방이 이제 법적·경쟁적 이슈를 넘어 operational security 문제로 다뤄지기 시작했다는 점이 중요하다. Anthropic의 X 성명은 짧지만 API abuse에 더 강경한 태도와, frontier model capability를 둘러싼 환경이 더 적대적으로 변하고 있음을 시사한다. 별도의 장문 기술 보고서가 없더라도, 이번 공개는 access control이 모델 비즈니스의 핵심 요소가 되고 있다는 인식을 한층 강화한다.