Anthropic, 외부 평가자에 직원급 상시 접근권…프런티어 AI 감속 검증의 첫 시험대

외부 평가자가 훈련 현장 안으로 들어간다

Anthropic이 제3자 AI 안전 평가자에게 직원과 비슷한 수준의 상시 접근권을 제공한다. 완성된 모델을 출시 직전에 시험하는 방식에서 벗어나 훈련 과정, 내부 안전 절차, 사고 기록까지 지속적으로 확인하게 만드는 조치다. Dario Amodei Anthropic CEO는 이를 프런티어 AI의 개발 속도를 안전 역량과 맞추기 위한 3단계 계획의 첫 단계로 제시했다.

“We’ll provide third-party evaluators with permanent, employee-level access to our systems, so that they can verify adherence to our safety measures.”

원문 트윗은 외부 평가자가 안전 조치 준수 여부를 검증하고, 사고를 보고하며, 모델 훈련 중 정렬 상태까지 평가할 수 있다고 명시한다. 게시 시각은 2026년 9월 12일 14시 1분(UTC)이며, 확인 시점 기준 좋아요 7만2,000건 이상과 재게시 1만3,000건 이상을 기록했다.

책상·출입증·노트북까지 포함한 직원급 권한

Amodei가 함께 공개한 장문 글은 ‘직원급 접근’의 범위를 구체화한다. 외부 검토팀에 사무실 책상, 출입증, 회사 노트북을 제공하고, 내부 위험평가팀과 대체로 비슷한 작업공간·도구·권한을 부여할 계획이다. 고객과 협력사의 비공개 정보, 법률상 보호되는 자료 등에는 예외가 적용된다.

평가팀은 위험 수준, 사고, 회사의 안전 관행, 실제로 허용되거나 거부된 접근 범위를 독립적으로 공개할 권리도 갖는다. Anthropic은 보안·법률·영업상 민감한 정보에 한해 좁은 범위의 삭제를 요구할 수 있지만, 회사에 불리하다는 이유만으로 결론을 막을 수는 없다는 조건을 제시했다. 은행 감독기관이 금융회사 내부에 상주하는 방식과 유사한 검증 구조를 AI 연구소에 옮기는 셈이다.

3단계 계획의 나머지는 업계와 정부 몫

첫 단계인 ‘내부 상주 평가자’는 Anthropic이 단독으로 시작한다. 두 번째 단계는 민주주의 국가의 프런티어 연구소들이 공통 안전 기준과 무제한적인 성능 경쟁의 속도 제한을 조율하는 것이다. 세 번째 단계는 미국을 포함한 민주주의 국가와 권위주의 국가 사이의 국제 공조다. Amodei는 모델 훈련이나 기술 진보를 멈추자는 주장이 아니라, 정렬·보안·해석가능성 연구가 성능 향상을 따라갈 시간을 확보하자는 구상이라고 선을 그었다.

그가 이런 전환을 요구한 배경에는 두 가지 수치가 있다. AI가 다음 세대 AI를 만드는 재귀적 자기개선이 2026년 여름부터 빨라졌다는 판단, 그리고 현재와 비슷한 오정렬을 지닌 더 강한 에이전트 군집이 6~12개월 안에 인터넷 규모의 지속형 봇넷을 만들 수 있다는 위험 추정이다. 이 수치는 예측이지 관측 결과는 아니지만, Anthropic이 외부 검증을 일회성 감사가 아닌 상시 제도로 설계한 이유를 설명한다.

다음 관전점

핵심은 평가기관의 선정, 실제 권한 범위, 첫 독립 보고서의 공개 시점이다. 계약상 독립성이 문구에 머무르지 않으려면 평가자가 불리한 결과를 원문 그대로 공개하고, 접근 거부 사실까지 기록할 수 있어야 한다. 다른 프런티어 연구소가 같은 수준의 상시 접근을 채택하는지도 중요하다. 업계 공동 기준과 정부의 독점금지 예외가 뒤따르지 않으면 3단계 계획은 Anthropic 한 곳의 실험에 머물 수 있다.