arXiv, LLM 오류 미검수 논문에 1년 제출 금지 조치

무슨 일이 생겼나

arXiv cs.LG 분야 모더레이터 Thomas Dietterich가 X(트위터)를 통해 새로운 제재 정책을 공개했다. LLM이 생성한 부적절한 내용—허위 참고문헌, 잘못된 결과, 표절, 편향된 서술—을 저자가 검수 없이 논문에 포함시킨 경우, 해당 논문의 모든 저자에게 최대 1년간 arXiv 제출이 금지된다.

Dietterich는 arXiv 행동강령을 인용하며 핵심 원칙을 재확인했다. '이름을 올린 저자는 논문 내용이 어떤 방식으로 생성됐든 전적인 책임을 진다.'

왜 이 시점인가

AI 생성 저품질 논문의 범람이 arXiv 심사 시스템을 압박하고 있다. '보류' 기간이 길어지고 있다는 제보가 잇따르는 상황에서, 이번 조치는 플랫폼이 단순한 가이드라인을 넘어 실제 처벌을 도입했다는 점에서 의미가 크다.

커뮤니티 반응

같은 날 r/MachineLearning에는 이 조치에 대한 반발을 다루는 별도의 포스트가 올라와 350점 이상을 기록했다. 비판 측은 '저자 책임'의 범위가 불분명하고 처벌이 가혹하다고 주장한다. 지지 측은 AI 생성 오류가 학술 기록의 신뢰성을 해친다며 환영한다.

시사점

이번 조치는 LLM을 연구 보조 도구로 쓰는 연구자라면 누구에게나 직접적인 영향을 미친다. arXiv 제출 전 AI 생성 내용의 철저한 검수가 이제 선택이 아닌 필수가 됐다. 학술 커뮤니티가 AI 시대의 연구 책임 기준을 어디에 설정할지를 둘러싼 논쟁은 이제 막 시작됐다.