뉴섬, 2년 전 거부한 킬스위치 다시 꺼내 — 캘리포니아 AI 안전 행정명령

캘리포니아 개빈 뉴섬(Gavin Newsom) 주지사가 9월 18일 AI 안전 강화 행정명령에 서명했다. 주 정부 운영청(Government Operations Agency)과 비상관리청(Office of Emergency Services)에 전국 전문가를 소집해 2개월 안에 권고안을 제출하도록 지시했다.

행정명령이 명시한 주요 권고 대상은 ▲외부 평가 의무화 ▲AI 기업 안전 프레임워크의 독립 검증 ▲킬스위치(kill switch) 요건 ▲바이오무기 제조나 전력망 마비 등 제어 상실 사고의 보고 범위 확대다.

뉴섬은 2024년에 이와 유사한 조항을 담은 SB 1047을 혁신을 저해한다는 이유로 거부했다. 2년 만에 입장을 바꾼 배경에는 AI 위협에 대한 여론 악화가 있다. 뉴섬 측은 바이오무기나 전력망 마비 같은 재앙적 피해 위험이 있다. 지금 행동하지 않으면 너무 늦다고 밝혔다.

연방 차원에서도 비슷한 움직임이 이어지고 있다. 9월 16일 제출된 섹터별 AI 거버넌스 법안(Sectoral AI Governance Act of 2026)은 기존 연방 규제 기관이 각자 관할 영역 내 AI 의사결정 시스템에 규칙을 적용할 수 있도록 하는 내용을 담고 있다.

출처: CalMatters / CNBC