Anthropic, 대규모 모델 증류(distillation) 공격 캠페인 공개
Original: Anthropic warns distillation attacks are growing in intensity and sophistication View original →
Anthropic 발표의 핵심
Anthropic는 2026년 2월 23일 X 게시물에서 모델 증류(distillation) 공격이 더 정교하고 강하게 진행되고 있다고 밝혔다. 또한 단일 기업 차원의 문제가 아니라 AI 업계 전반의 보안 과제라고 규정하면서, 기업·클라우드·정책 당국의 공조 대응이 필요하다고 강조했다.
연결된 공식 글에서 제시된 수치
Anthropic 공식 글은 DeepSeek, Moonshot, MiniMax와 연계된 3개 대형 캠페인을 언급한다. 글에 따르면 이들 캠페인은 약 2만4천 개의 사기 계정을 통해 1,600만 건 이상의 Claude 상호작용을 생성했으며, agentic reasoning·tool use·coding 같은 고가치 능력 추출에 집중했다. Anthropic는 증류 기법 자체는 합법적 활용이 가능하다고 인정하면서도, 해당 사례는 서비스 약관과 지역 접근 제한을 우회한 산업 규모의 무단 역공학에 해당한다고 주장했다.
대응 전략과 정책 함의
Anthropic는 탐지 분류기와 행위 지문 분석, 대규모 계정 연계 탐지, 취약 가입 경로에 대한 검증 강화, 타 기관과의 지표 공유, API/제품 수준 완화책을 병행하겠다고 밝혔다. 또 증류 공격이 수출통제 정책의 실효성과도 연결된다고 설명한다. 세부 내용은 기업 자체 보고라는 한계가 있지만, 이번 공개는 AI 보안 논의에서 실제 운영 데이터와 대응 프레임을 제시했다는 점에서 의미가 있다.
Sources: Anthropic X post, Anthropic security write-up
Related Articles
Anthropic은 2026년 3월 5일 성명을 통해 Department of War의 공급망 리스크 지정 통보를 받았다고 밝혔다. 회사는 조치의 적용 범위가 제한적이라고 설명하면서도 법적 대응과 전환 지원을 병행하겠다고 했다.
Anthropic는 powerful AI가 사회에 던질 과제를 다루는 공익 조직 The Anthropic Institute를 출범시켰다. 회사는 이 조직이 technical·economic·social science 관점을 결합해 public conversation을 넓히는 역할을 맡는다고 밝혔다.
Hacker News에서 크게 확산된 Anthropic-Mozilla 협업 사례는 Claude Opus 4.6가 Firefox에서 22개의 취약점을 찾고 14개가 high-severity로 분류됐다는 점을 공개했다. 핵심은 자율 마법이 아니라 verifier와 triage를 갖춘 defender workflow가 빨라진다는 데 있다.
Comments (0)
No comments yet. Be the first to comment!