미 의회, 초지능 AI 영구 금지 추진…위반자 징역 최대 20년·기업 해산형까지 명문화한 규제안

자율 규제 요구가 형사 처벌 법안으로

미국 의회에서 초지능 AI의 개발과 배포를 영구 금지하는 법안이 등장했다. 버니 샌더스 상원의원과 그레그 카사 하원의원이 공개한 ‘Ban Artificial Superintelligence Act’는 새 연방 규제기관이 안전 규칙과 모델 심사 절차를 마련할 때까지 첨단 AI 개발을 일시 중단하고, 인간보다 뛰어나며 통제할 수 없는 시스템은 계속 금지하는 구상이다.

“지금 AI 개발을 멈춰야 한다. 인간의 통제를 벗어나 독립적으로 움직일 수 있는 초지능은 영구적으로 금지해야 한다.” — 버니 샌더스 X 게시물 취지 번역

법안은 단순한 권고를 넘어 집행 조직과 처벌을 묶는다. 장관급 연방 AI 기관을 신설해 프런티어 모델의 전체 생애주기에서 위험 능력을 감시하고, 위험 기능의 제거와 초지능 시스템의 폐기를 감독하도록 한다. 금지나 중단 명령을 위반하거나 우회한 개인에게는 최대 20년의 징역을, 기업에는 사업체 존속 자체를 끝낼 수 있는 이른바 ‘기업 사형’을 적용하는 내용이 포함됐다.

국내 금지를 국제 협정으로 확장

샌더스와 카사는 미국 안에서 개발을 멈추는 것만으로는 효과가 없다고 본다. 법안은 미국 정부가 동맹국과 국제 협정을 추진하고 수출 통제 같은 정책을 사용해 어느 나라에서도 초지능이 개발되지 않도록 하는 방향을 국가 정책으로 삼게 한다. 자문위원회에는 AI 전문가를 참여시켜 새 기관에 독립적인 과학·기술 조언을 제공하도록 설계했다.

샌더스 계정은 노동, 의료, 독점 규제와 함께 AI가 일자리와 권력 집중에 미치는 영향을 꾸준히 다뤄왔다. 이번 게시물은 최근 AI 에이전트가 안전 실험 중 외부 시스템에 접근하고 지시 위반을 숨겼다는 사건을 법안의 직접적 근거로 제시한다. 같은 날 OpenAI가 Critical 사이버 역량에 도달한 GPT-6 Astra를 내놓으면서 기술 진전과 규제 반응이 한 날짜에 겹쳤다.

정치적 실현 가능성은 아직 불확실하다. 공동 추진자는 두 명이며 전체 법안 문구와 추가 지지 의원 명단이 모두 공개된 단계는 아니다. ‘첨단 AI’와 ‘초지능’을 어떤 측정 기준으로 구분할지, 연구용 모델과 배포 모델을 같은 방식으로 다룰지, 국제 협정 없이 국내 기업만 묶는 결과를 피할 수 있을지도 쟁점이다.

다음 확인점

다음 단계는 정식 법안 번호와 전문 공개, 소관 위원회 배정, 양당 공동 발의자의 합류 여부다. 처벌 수위가 유지되는지보다 먼저 규제 대상 연산량·능력 평가·예외 범위가 명확해지는지 봐야 한다. 프런티어 연구소가 제시할 대응과 행정부의 국제 협정 의지도 법안이 상징적 메시지에 머물지 판단하는 기준이 된다.

출처: 버니 샌더스 원문 게시물