Anthropic, Responsible Scaling Policy 3.0 공개…ASL 임계치 운영 방식 재설계

핵심 배경

Anthropic은 2026년 2월 24일 Responsible Scaling Policy(RSP) Version 3.0을 공개했다. RSP는 고성능 AI 시스템의 catastrophic risk를 줄이기 위한 자율 프레임워크로, Anthropic이 2023년 9월 첫 버전을 발표한 뒤 지속적으로 개정해 온 문서다. 이번 개정의 메시지는 단순하다. 기존의 원칙은 유지하되, 실제 운영에서 드러난 한계를 인정하고 실행 가능한 구조로 재설계하겠다는 것이다.

초기 RSP의 중심은 conditional "if-then" 약속이었다. 특정 capability threshold를 넘으면 더 강한 safeguard를 의무화하는 방식이며, 이 요구사항은 AI Safety Level(ASL) 체계로 관리됐다. Anthropic은 ASL-3 보호조치를 2025년 5월 활성화했다고 설명하며, 실제로 input/output classifier 같은 방어 수단이 고도화됐다고 밝혔다. 이 대목은 정책 문서가 선언에 그치지 않고 모델 배포 기준으로 작동했음을 보여준다.

Version 3.0에서 바뀐 점

Anthropic이 강조한 변화는 "모호성 구간(zone of ambiguity)"에 대한 대응이다. 특히 biological risk처럼 사회적 파급이 큰 영역에서, 모델이 위험 임계치를 "명확히 통과"했는지 과학적으로 단정하기 어렵다는 점을 공개적으로 인정했다. 회사는 wet-lab trial 같은 추가 연구를 수행했지만, 평가 사이클이 길고 모델 성능 변화가 빠르기 때문에 정책 트리거를 기계적으로 적용하기 어렵다고 설명한다.

이 문제의식은 정책 구조 변경으로 이어졌다. 고수준 ASL 구간에서 당장 달성하기 어려운 조치를 형식적으로 약속하기보다, 현재 환경에서 unilateral하게 실행 가능한 항목을 명확히 제시하고, 산업 전체가 공동으로 해결해야 할 과제는 별도 로드맵으로 분리했다. Anthropic은 nonbinding but publicly-declared targets 접근을 제시하며, 진척 상황을 공개적으로 평가하겠다고 밝혔다.

시장과 규제에 주는 의미

• Frontier AI 기업의 safety framework가 "정적 규정"이 아니라 "운영 데이터 기반의 living policy"로 이동하고 있다는 신호다.
• Capability evaluation 불확실성을 공식 의제로 올리면서, 향후 규제 논의에서도 threshold 기반 규칙 설계가 더 정교해질 가능성이 크다.
• 투명성 강화는 단기적으로는 정책 리스크를 드러내지만, 장기적으로는 기업 신뢰성과 감사 가능성을 높이는 방향이다.

결론적으로 RSP Version 3.0은 "더 강경한 문구"보다 "검증 가능한 실행"을 택한 업데이트다. Anthropic이 제시한 방식은 다른 AI 개발사에도 실무 기준으로 참고될 가능성이 높다.