왜 이 스레드가 주목받았나

Hacker News의 "Can you reverse engineer our neural network?" 글은 수집 시점(2026-02-25 UTC) 기준 262점, 댓글 182개를 기록했다. 링크된 Jane Street 글은 단순 퍼즐 소개가 아니라, 실제 모델 해석 과정을 단계별로 보여주는 엔지니어링 기록에 가깝다. 참가자에게는 블랙박스 API가 아니라 model.pt 파일이 그대로 제공됐고, 목표는 네트워크가 수행하는 계산을 역으로 밝혀내는 것이었다.

이 접근은 실무 해석 작업과 유사하다. 먼저 구조를 보고, 그다음 내부 활성값 패턴을 추적하고, 마지막으로 가설을 검증하는 흐름이다.

모델에서 드러난 핵심 구조

공개 글에 따르면 해당 네트워크는 일반적인 학습 결과물이라기보다 설계형 구조에 가깝다. 가중치에 정수 값이 많이 나타나고, 마지막 레이어가 48x1 형태의 반복 패턴을 가진다. 설명된 ReLU 조합은 바이트 단위 동등성 검사처럼 동작하며, 뒤쪽 레이어의 바이어스와 함께 특정 값 비교를 수행한다.

또한 글은 약 2,500개 linear layer 규모를 언급한다. 한 풀이자는 그래프 축소, 정수 계획 접근, SAT 기반 모델링까지 시도했지만, 단순 완전탐색으로 끝낼 수 없는 복잡도가 남았다고 설명한다.

해시 패턴 식별과 버그 추적

전환점은 반복 블록 관찰에서 나왔다. 풀이자는 주기적 구조를 바탕으로 해시 계열 계산 가능성을 세웠고, 중간 활성을 비교해 내부 계산이 MD5와 정합된다는 결론에 도달했다. 이후 입력 길이가 32바이트를 넘는 구간에서 길이 바이트 처리 이상 동작을 찾아냈고, 이 버그 경로를 별도로 역추적했다.

그럼에도 일반적 역함수화는 쉽지 않았다. 최종적으로는 구조 해석과 퍼즐 힌트 기반 탐색을 결합해 답을 찾았다는 점이 강조된다.

실무 관점의 시사점

핵심 메시지는 하나다. 복잡한 네트워크라도 반복 구조와 내부 제약을 찾아내면, 동작 불변식을 점진적으로 복원할 수 있다. 실제 엔지니어링 환경에서도 모델 해석은 단일 기법이 아니라, 구조 축소, 가설 검증, 제한 탐색을 함께 쓰는 하이브리드 문제라는 점을 잘 보여준다.

출처: Jane Street 공식 글
커뮤니티: Hacker News 토론

#neural-networks

Hacker News 화제: Jane Street, 수작업 신경망 역공학 퍼즐 해설 공개