Fable 5·Mythos 5 접근 중단, HN 논점은 정부 개입의 기준

Anthropic이 Fable 5와 Mythos 5 접근을 전면 중단하겠다고 밝히자, 커뮤니티의 관심은 단순한 서비스 장애가 아니라 AI 배포를 멈추게 할 수 있는 기준으로 옮겨갔다. 회사 설명에 따르면 미국 정부는 국가안보 권한을 근거로 두 모델에 대한 외국인 접근을 중단하라는 지시를 내렸고, Anthropic은 모든 고객의 접근을 끊는 방식으로 대응했다.

쟁점은 jailbreak의 성격이다. Anthropic은 정부가 문제 삼은 사례를 “좁은 non-universal jailbreak”로 이해하고 있으며, 해당 시연이 이미 알려진 비교적 단순한 취약점을 찾는 수준이었다고 설명한다. 더 중요한 대목은 이런 능력이 Fable 5나 Mythos 5에만 있는 것이 아니라 공개적으로 접근 가능한 다른 모델에서도 가능하다는 주장이다.

HN 토론은 기술 안전과 행정 절차 사이의 긴장을 파고들었다. 모델이 실제로 위험한지를 따지는 문제와, 정부가 어떤 증거와 절차로 배포 중단을 요구할 수 있는지는 별개의 질문이다. Anthropic도 정부가 위험한 배포를 막을 수 있어야 한다는 원칙 자체는 인정하지만, 이번 조치가 투명하고 기술 사실에 근거한 절차였는지에는 반대한다.

이 사건은 frontier model 규제의 실전 시험대에 가깝다. 좁은 jailbreak 가능성만으로 대규모 상용 모델을 회수하는 선례가 만들어지면, 새 모델 출시와 운영 리스크는 완전히 다른 계산이 된다. 반대로 정부가 실제 위험 신호에 늦게 움직이면 피해는 더 커질 수 있다. 이번 논쟁의 무게는 바로 그 경계선에 있다.

원문: Anthropic statement. HN 토론: item 48511072.