실존하지 않는 판례를 인용한 판사

2026년 2월 27일, 인도 대법원이 AI가 생성한 가짜 판례를 인용한 지방 법원 판사에 대해 강도 높은 경고를 발령했습니다. 이는 AI 환각(hallucination) 문제가 사법 시스템에 실질적인 피해를 입힌 사례로 큰 주목을 받았습니다.

사건의 경위

사건은 2025년 8월 인도 비자야와다(Vijayawada) 소재 지방 민사 법원으로 거슬러 올라갑니다. 한 재산 분쟁 사건을 담당하던 초임 민사 판사가 법원 임명 조사관의 보고서에 대한 피고 측 이의를 기각하면서, 존재하지 않는 대법원 판례 4건을 근거로 인용했습니다.

해당 판사는 대법원에서 이 사실을 추궁받자 'AI 도구를 처음 사용했으며, 인용된 판례들이 진짜라고 믿었다'고 해명했습니다. 또한 '오해를 일으키려는 의도가 전혀 없었으며, 자동화된 도구에 의존한 실수'라고 덧붙였습니다.

대법원의 강경 대응

PS 나라시마 대법관과 알로크 아라드헤 대법관으로 구성된 법정은 직권으로 이 사건을 인지하고 AI 생성 가짜 판례 인용을 단순한 추론 오류가 아닌 '직무 위반(misconduct)'으로 규정하며 '법적 결과가 뒤따를 것'이라고 경고했습니다.

대법원은 이 사안을 '기관적 우려 사항'으로 지정하고, AI가 생성한 가짜 판결이 '사법 절차의 무결성에 직접적인 영향을 미친다'고 선언했습니다.

더 넓은 시사점

이 사건은 법률 분야에서의 AI 의존성이 가져오는 위험성을 단적으로 보여줍니다. 전 세계적으로 변호사와 판사들이 법률 조사에 AI를 활용하는 사례가 늘고 있는 가운데, 인도 대법원의 이번 결정은 사법 절차에서 AI 출력물에 대한 엄격한 검증이 필수적임을 강조합니다. Hacker News에서는 이 뉴스가 281점을 획득하며 법조계와 AI 커뮤니티 모두의 큰 관심을 받았습니다.

#ai-hallucination

인도 대법원, AI 생성 가짜 판례 인용한 판사에 '직무 위반' 경고