캘리포니아, AI 챗봇 아동 보호 법안 13건 서명 — 위반 시 최대 100만 달러 벌금 적용

캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)이 9월 10일 AI 챗봇과 소셜 미디어로부터 아동을 보호하는 법안 13건에 서명했다. 미국에서 가장 강력한 어린이 AI 안전 법안으로 평가받는다.

핵심 내용: 애덤 법(SB 1119)

가장 주목받는 법안은 SB 1119(애덤 법, Adam's Law)으로, 미국에서 가장 포괄적인 어린이 AI 챗봇 안전법이다. 주요 조항은 다음과 같다.

• 챗봇 출시 전 의무적 위험 평가 실시
• 아동에게 해를 끼친 사실이 인정될 경우 아동 1인당 최대 100만 달러(약 14억 원)의 벌금 부과
• 16세 미만 사용자에게 중독성 알고리즘 피드 제공 금지
• 아동 대상 개인정보 보호 강화

입법 배경

이번 입법은 AI 기반 컴패니언 챗봇이 청소년 정신 건강에 미치는 부정적 영향에 대한 우려가 높아지는 가운데 추진됐다. 특히 챗봇과의 정서적 의존 관계에서 심리적 피해를 입거나 위험한 조언을 받는 사례가 잇따르면서 입법 압박이 강해졌다.

뉴섬 주지사는 서명 성명에서 "기술 기업들은 제품 출시 전에 아동에게 미칠 위험을 철저히 평가해야 한다"고 강조했다. 이번 법안들은 캘리포니아를 어린이 AI 안전 규제의 기준점으로 만들 것으로 전망된다.

자세한 내용은 캘리포니아 주지사실 공식 발표에서 확인할 수 있다.