ICML 리뷰 과정에서 제기된 PDF 내 프롬프트 인젝션 논란

무슨 일이 커뮤니티를 자극했나

2026-02-13T12:54:44.000Z에 r/MachineLearning에 올라온 [D] ICML: every paper in my review batch contains prompt-injection text embedded in the PDF 글은 수집 시점 기준 점수 390, 댓글 52를 기록했다. 작성자 Working-Read1838는 ICML Policy A(LLM 사용 불가) 리뷰 중, PDF를 복사해 텍스트로 볼 때 특정 문구를 리뷰에 포함하라는 형태의 숨은 문구가 반복적으로 보였다고 주장했다.

핵심은 사실관계의 최종 결론보다도, 리뷰 프로세스 신뢰성과 LLM 사용 통제 방식이 충돌하는 지점이다. 만약 심사자가 원문을 직접 읽지 않고 자동화된 파이프라인에 문서를 넣는다면, 숨은 지시문은 리뷰 결과를 왜곡할 수 있다. 반대로 일부 댓글은 이런 장치가 오히려 부정 자동화 리뷰를 억제하는 탐지 장치가 될 수 있다고 본다.

댓글에서 드러난 세 가지 시각

첫째, 문제의 본질은 프롬프트 인젝션이 아니라 LLM으로 대충 리뷰하는 행위라는 관점이다. 이 입장에서는 인젝션 텍스트가 경고장치로 기능할 수 있다고 본다. 둘째, 운영 혼란 우려다. 선의의 리뷰어도 규정 위반이나 공모 시도로 오해해 desk reject 요청을 남발할 수 있고, AC(Area Chair) 단계에서 불필요한 분쟁이 늘 수 있다는 지적이 나왔다. 셋째, 타 학회에서도 유사 사례가 있었다는 경험 공유다. 몇몇 사용자는 AISTAT에서도 비슷한 텍스트를 봤다고 언급했다.

중요한 점은 이 토론이 단순한 한 게시글의 사실 여부를 넘어서, 학회가 자동화 시대에 리뷰 무결성을 어떻게 설계해야 하는지로 확장됐다는 것이다. 기술적으로는 PDF 렌더링 레이어와 추출 텍스트 레이어가 다를 수 있고, 정책적으로는 금지 규정을 선언하는 것만으로는 집행이 어렵다.

결론적으로 이번 스레드는 peer review 인프라가 사람 중심 읽기와 자동화 남용 방지를 동시에 만족해야 한다는 현실을 보여준다. 커뮤니티의 높은 반응은 LLM 시대 학술 심사의 운영 리스크가 더 이상 주변 이슈가 아니라는 신호다.

Source: Reddit discussion thread