뉴섬, AI 킬스위치 의무화 검토 행정명령 서명 — 2년 만의 방향 전환

캘리포니아 주지사 개빈 뉴섬이 2026년 9월 18일 AI 안전 강화를 위한 행정명령에 서명했다. 전문가 위원회가 두 달 안에 구체적인 입법 권고안을 제출하도록 하는 내용이 핵심이다.

무엇을 지시했나

행정명령은 캘리포니아 정부운영청(Government Operations Agency)에 주 비상사태관리청(OES)과 협력해 전국 전문가를 소집하도록 지시한다. 위원회가 검토해야 할 과제는 다음과 같다.

• 프론티어 AI 모델에 비상 시 강제 종료 가능한 킬스위치(kill switch) 탑재 의무화 방안
• 제3자 독립 기관의 AI 안전 계획 수립 및 검증 요건
• 의무 보고 대상인 '통제력 상실 사고(loss-of-control incidents)' 범위 확대
• 독립적인 외부 평가 의무화 입법 방안

왜 지금인가

뉴섬은 "AI가 생물무기를 설계하거나 전력망을 마비시킬 수 있다는 우려에 대응해 늦기 전에 실질적이고 책임감 있는 감독을 서두르겠다"고 밝혔다. 2024년 10월 그는 SB 1047을 거부하면서 "주 단위 규제가 글로벌 기술 경쟁을 저해할 수 있다"고 우려했다. 당시와 달리 이번에는 AI 에이전트 오작동 사례가 잇따르고, AI 안전 연구자들의 경고가 주류 여론에 침투하면서 배경이 달라졌다.

다음 단계

행정명령은 법적 강제력이 없다. 위원회 권고안이 실제 입법으로 이어지려면 캘리포니아 의회 통과가 필요하다. 다만 캘리포니아는 미국에서 AI 스타트업과 빅테크 밀집도가 가장 높은 주인 만큼, 이 권고안이 연방 수준의 논의에도 영향을 미칠 가능성이 있다.

출처: 캘리포니아 주지사실 · CNBC