Anthropic의 open weights 입장문, 금지보다 검증 논쟁으로

Anthropic CEO Dario Amodei가 2026년 7월 27일 open-weights models에 대한 입장문을 냈다. 글은 최근 중국 open-weight 모델을 미국 기업이 쓰지 못하게 하는 방안이 거론되고, 여러 기술 기업이 open weights 지지 서한에 이름을 올린 상황을 배경으로 한다. Amodei는 Anthropic이 open-weight 모델 금지를 주장한 적이 없다고 선을 그었다. 위험한 capability가 없는 open-weight 모델은 기업, 개발자, 연구자에게 public good이라는 표현도 붙였다.

하지만 본문은 단순한 지지 선언이 아니다. Amodei가 우려하는 첫 번째 축은 권위주의 정부가 미국보다 강력한 모델을 만들어 군사 우위나 대규모 감시에 쓰는 상황이다. 두 번째 축은 cyberattack, biological attack, alignment 문제다. 특히 weights가 공개되면 회수할 수 없고 사용 감시도 어렵다는 점을 closed model과의 차이로 제시했다.

대안으로는 세 가지를 들었다. 강력한 chip과 chipmaking equipment의 중국 판매를 제한하고 우회 조달을 단속할 것, industrial-scale distillation을 막을 것, 충분히 강력한 open 또는 closed 모델 모두가 배포 전 mandatory safety testing을 거치게 할 것. 금지라는 단어를 피했지만, HN 댓글의 논점은 바로 이 마지막 항목에 모였다. 누가 검증을 운영하고, 비용이 얼마나 들며, 검증 통과가 사실상 허가제로 바뀌면 open weights에는 어떤 부담이 생기는지 묻는 반응이 많았다.

또 다른 댓글 흐름은 distillation 규제와 저작권 학습 논쟁의 비대칭성을 지적했다. 모델 회사가 인터넷 규모의 데이터를 학습한 뒤, 자기 모델의 출력 distillation은 막으려 한다는 비판이다. 반대로 open weights의 cyber와 bio misuse 위험을 가볍게 볼 수 없다는 의견도 있었다. 이 스레드가 커진 이유는 Anthropic의 문장이 모호해서가 아니라, safety testing과 distillation 단속이 실제 제도에서 어디까지 갈지 불확실하기 때문이다.

원문은 Anthropic 입장문, 커뮤니티 논의는 HN 스레드에서 볼 수 있다.