남아공 AI 정책 초안 철회… 가짜 AI 생성 참고문헌이 드러낸 정부 AI 검증 체계 공백

왜 정책 내용보다 절차가 먼저 무너졌나

정부가 AI를 다루는 규칙을 만들수록, 그 문서 자체는 더 집요하게 검증돼야 한다. ReutersTech가 4월 27일 X에 올린 짧은 포스트는 바로 그 역설을 찔렀다. 핵심 문구는 "fake AI-generated sources"였다. 남아공의 첫 국가 AI 정책 초안이 AI가 만든 것으로 보이는 허구 참고문헌 때문에 철회됐다는 뜻이다. 규제 초안의 신뢰가 무너지면 내용의 선의나 방향성은 그다음 문제가 된다.

"fake AI-generated sources"

ReutersTech 계정은 기술 뉴스를 한 줄 헤드라인으로 압축해 원문 리포트로 보내는 와이어 창구에 가깝다. 이번에도 Reuters 기사 재배포본이 뒤를 받친다. 기사에 따르면 남아공 정부는 참고문헌 목록에 허구 출처가 포함된 사실이 드러나자 초안을 철회했다. 통신·디지털기술부 장관 Solly Malatsi는 가장 그럴듯한 설명이 검증되지 않은 AI 생성 인용의 유입이라고 썼고, 책임도 따르겠다고 밝혔다.

더 중요한 대목은 이 초안이 꽤 실질적이었다는 점이다. Reuters 기사에 따르면 문서는 남아공을 대륙 차원의 AI 혁신 허브로 세우겠다는 목표 아래 National AI Commission, AI Ethics Board, AI Regulatory Authority 등 3개 신규 기구를 제안했고, 세제 혜택과 보조금, 민간 협력 인센티브도 담고 있었다. 단순 홍보문이 아니라 실제 제도 골격을 겨냥한 문서였기 때문에, 출처 검증 실패의 파장은 더 크다.

다음은 새 초안이 언제, 어떤 검증 절차와 함께 돌아오느냐다. 이번 사건은 AI 정책의 방향보다 정책 작성과 검수 체계가 먼저 시험대에 오른 사례로 남는다. 다른 정부와 공공기관도 생성형 AI를 문서 작성에 쓰고 있다면, 인용 검증과 책임 추적을 어디에 걸지 다시 점검할 가능성이 크다. 출처: ReutersTech 원문 트윗 · Reuters 기사 재배포본