Anthropic, 대규모 distillation 공격 공개: 1,600만 건 질의·2만4천개 계정 악용 확인

무엇이 발표됐나

Anthropic은 2026년 2월 23일 공개한 공지에서 자사 모델 성능을 무단으로 추출하려는 industrial-scale distillation 공격을 탐지했다고 밝혔다. 회사 설명에 따르면 해당 활동은 DeepSeek, Moonshot, MiniMax와 연계된 정황을 포함하며, 약 2만4천개 사기성 계정을 통해 1,600만 건이 넘는 대규모 질의가 발생했다.

Anthropic은 distillation 자체가 항상 불법은 아니라고 선을 그었다. 더 큰 모델의 출력으로 더 작고 저렴한 모델을 학습하는 방식은 업계에서 널리 쓰이기 때문이다. 다만 경쟁사 모델의 고유 성능을 약관 위반 방식으로 대량 수집해 복제하는 행위는 별개 문제이며, 이 경우 보안·안전 통제가 제거된 모델 확산으로 이어질 수 있다는 것이 회사의 핵심 주장이다.

왜 중요한가

이번 공지는 AI 경쟁의 초점이 단순한 training 규모에서 inference 단계의 보호, API abuse 차단, 계정 신뢰 체계 강화로 이동하고 있음을 보여준다. Anthropic은 특히 고급 추론, tool use, coding 관련 역량이 집중적으로 표적이 됐다고 설명했다. 이는 frontier model 차별화 영역이 곧 공격 표면이 되고 있음을 시사한다.

또한 회사는 이 문제를 model security를 넘어 정책 이슈로 연결했다. 공지에서는 distillation 공격이 수출통제(export controls)의 효과를 약화시킬 수 있다고 주장하며, 업계와 정책 당국의 공동 대응이 필요하다고 강조했다. 즉, compute 접근 제한만으로는 불충분하며, API 운영·계정 검증·이상행위 탐지·사업자 간 정보 공유를 포함한 다층 방어가 필요하다는 메시지다.

실무적 함의

• 모델 제공사는 대량 자동화 호출, 프록시 회피, 계정 군집 패턴에 대한 탐지 고도화가 필요하다.
• 기업 사용자는 API 키 관리, 사용량 임계치, 비정상 호출 알림 체계를 재점검해야 한다.
• 규제·정책 관점에서는 모델 성능 유출을 독립 위험으로 다루는 프레임이 강화될 가능성이 있다.

정리하면 이번 발표는 "모델을 얼마나 잘 만들었는가" 못지않게 "모델 성능과 안전장치를 어떻게 지킬 것인가"가 경쟁력의 핵심으로 올라왔다는 신호다. 향후 주요 AI 사업자들의 계약 조건, API 요금제 구조, 계정 신원 검증 정책에도 영향을 줄 가능성이 크다.