AI가 아니라는 것을 증명하려는 과제가 오히려 학생들을 더 많은 AI 사용으로 몰고 있다

Hacker News 토론: https://news.ycombinator.com/item?id=47290457
원문 기사: Techdirt

이번 Hacker News 글이 끌어올린 Techdirt의 문제 제기는 간단하지만 날카롭다. 학교가 “사람이 쓴 것처럼 보이는가”를 목표로 삼기 시작하면, 학생들은 사고력이나 글의 완성도보다 그 신호를 맞추는 쪽으로 행동을 바꾸게 된다는 것이다. 글에 따르면 교사는 AI 탐지기를 신뢰하지 못하고, 학생들은 너무 매끈한 문장조차 의심을 살 수 있다고 배우면서, 수업은 학습보다 탐지 점수를 둘러싼 게임에 가까워진다.

핵심 주장

• 학생들은 AI 탐지기의 false positive를 피하려고 자신의 문체를 조정한다.
• 더 “인간적”으로 보이기 위해 일부러 문장을 평평하게 만들거나 덜 다듬기도 한다.
• GPTZero 같은 서비스를 AI를 완전히 피하기 위해서가 아니라, 제출물이 자동 판정을 통과하는지 확인하는 용도로 사용하기도 한다.

문제의 핵심은 탐지 중심 평가가 잘못된 인센티브를 만든다는 점이다. 시스템이 실제 학습보다 “도움받지 않은 것처럼 보이는 결과물”을 보상하면, 학생들은 더 은밀한 AI 사용, 점수 맞추기, 수정 회피로 밀릴 수 있다. 특히 글쓰기 수업에서는 반복적인 수정과 다듬기가 본래 훈련의 일부여야 하는데, 그것이 오히려 의심 신호가 되어버릴 수 있다.

교육 현장에서 얻을 교훈은 단순히 AI 오용을 눈감아야 한다는 것이 아니다. 성능이 약한 detector와 적대적 채점 규칙이 대규모로 행동을 왜곡할 수 있다는 점을 인정해야 한다는 것이다. 더 나은 방향은 process-based assessment, 구두 확인, 단계별 초안 제출, 허용 가능한 AI 보조 범위의 명확화처럼 “사람 대 기계” 이분법보다 학습 과정을 직접 평가하는 방식에 가깝다.