남아공 AI 정책 초안 철회, 가짜 인용이 드러낸 검증 공백

국가 AI 전략 문서는 신뢰를 설계해야 한다. 그런데 남아공의 첫 초안은 가장 기본적인 출처 검증에서 무너졌다. 4월 27일 Reuters 보도에 따르면 정부는 참고문헌에 AI가 만든 듯한 가짜 인용이 들어간 사실이 드러난 뒤 문서를 철회했다. 정책 이정표가 곧바로 신뢰 위기로 뒤집힌 셈이다.

이 초안은 단순한 의견수렴 문서가 아니었다. 남아공을 아프리카 대륙의 AI 혁신 거점으로 세우겠다는 목표 아래, 국가 AI 위원회, AI 윤리위원회, AI 규제기관 신설과 세제 혜택, 보조금, 민간 협력 유인까지 담고 있었다. 설계 범위가 컸던 만큼 참고문헌 오류의 파장도 작을 수 없었다.

통신·디지털기술 장관 솔리 말라치는 가장 개연성 높은 설명이 적절한 검증 없이 AI 생성 인용이 포함된 것이라고 밝혔다. 문제는 단순한 편집 실수가 아니라 초안의 무결성과 신뢰를 해쳤다는 점이라고도 했다. 문서의 일부 주장이 틀린 정도가 아니라, 문서를 만드는 절차 자체가 의심받게 됐다.

상징성도 크다. 각국 정부는 AI 안전, 배포, 책임 규칙을 만들겠다고 나서고 있다. 그런데 국가 정책 초안이 기본적인 출처 확인조차 넘지 못하면, 그 안의 모든 제도 설계가 약해진다. 특히 새 규제기구와 공적 지원책을 믿어 달라고 요구하는 문서라면 비용은 더 크다.

남아공 정부는 책임 추궁을 예고했지만 새 초안 일정은 내놓지 않았다. 다른 정부가 여기서 배워야 할 점은 분명하다. 생성형 AI는 초안을 빠르게 만들 수 있어도, 공적 규범의 최종 책임까지 대신하지는 못한다.