LocalLLaMA 뒤집은 Heretic 표절 논란, 비공개 비법의 붕괴

서브레딧이 즉시 달아오른 이유

이 스레드는 단순 폭로성 드라마로 소비되지 않았다. LocalLLaMA에서 반복돼 온 신화 하나를 정면으로 건드렸기 때문이다. 대형 언센서드 모델 배포자가 뭔가 특별한 비공개 기법으로 거절 응답을 줄이면서 성능도 그대로 지킨다는 이야기다. 원글은 HauhauCS를 겨냥했다. 글에 따르면 이 계정은 Hugging Face에서 22개 모델로 월 500만 다운로드 이상을 모으고 있었고, 각 모델 카드에는 “0/465 refusals, zero capability loss” 같은 문구가 붙어 있었다.

문제는 그 비공개 기법이 정말 독자적이었느냐였다. 작성자는 PyPI CDN에서 삭제된 reaper-abliteration 패키지를 복구했고, 그것이 오픈소스 Heretic의 파생 포크에 가깝다고 주장했다.

분석 문서가 제시한 근거

링크된 분석은 꽤 집요하다. 7개 핵심 모듈 이름이 그대로 남아 있었고, 거절 마커 32개 중 30개가 오탈자까지 문자 단위로 일치했다. 함수와 클래스 이름도 30개 이상 겹쳤고, Optuna 파라미터 범위, geometric median을 쓰는 분석 파이프라인, 내부의 good/bad 프롬프트 명명까지 같다고 적었다. 저작권 헤더는 유지가 아니라 교체에 가까웠다는 지적도 붙었다. 결정타는 Heretic 제작자 Philipp Emanuel Weidmann의 댓글이었다. 그는 복구된 패키지가 Heretic의 표절 파생물이며 AGPL 위반이라는 결론에 전면 동의한다고 공개적으로 밝혔다.

이 반응이 중요했던 이유는 “비슷한 아이디어일 뿐”이라는 빠져나갈 구멍을 크게 좁혔기 때문이다. 원저작자가 직접 합법적 포크는 이미 가능했고, 필요한 것은 출처와 라이선스 유지였다고 못 박았기 때문이다.

LocalLLaMA가 진짜로 흔들린 지점

댓글 흐름은 라이선스 문제에만 머물지 않았다. 많은 사용자가 그동안 benchmark 근거를 요구했다가 차단당한 경험을 끌어왔다. “성능 손실 없이 완전 abliteration” 같은 주장에 의심을 품었지만, 근거 대신 차단으로 돌아왔다는 말이 반복됐다. 그래서 이번 문서는 코드 표절 의혹 하나를 넘어서, 모델 카드 주장과 방법론 비공개, 커뮤니티 평판 전체를 다시 의심하게 만든 사건으로 읽혔다.

분위기는 분명했다. 사람들은 단지 한 제작자에게 화난 것이 아니라, 검증보다 평판이 먼저 굴러가는 언센서드 모델 생태계의 약한 고리를 본 것이다.

왜 중요한가

오픈웨이트 커뮤니티는 실험과 과장을 어느 정도 받아들인다. 대신 출처와 검증 가능성은 쉽게 넘기지 않는다. 모델 제작 도구의 출처가 흐리고, 평가 서사까지 신뢰를 잃기 시작하면 후속 주장 전체가 흔들린다. 어떤 벤치마크가 진짜였는지, 어떤 성능 문구가 마케팅이었는지, 누가 평판만으로 과도한 신뢰를 얻었는지가 다시 계산되기 시작한다. 이 글이 빠르게 올라간 이유도 바로 그 재계산이 시작됐기 때문이다.

출처: 분석 문서 · r/LocalLLaMA 스레드