Hacker News가 본 NanoGPT Slowrun의 10x 데이터 효율 주장

2026년 3월 19일, Hacker News에서 "NanoGPT Slowrun: 10x Data Efficiency with Infinite Compute"가 주목을 받았고, 이 크롤링 시점 기준 143 points와 29 comments를 기록했다. 링크된 Q Labs 글의 핵심 주장은 명확하다. 총 18B parameters 규모의 1.8B-parameter model ensemble을 100M tokens만으로 학습시켜, 보통이라면 1B tokens가 필요하다고 보는 standard language-model baseline과 맞먹는 성능을 냈다는 것이다. 이 10x data efficiency 주장이 주목받은 이유는, 성능 향상에 compute와 data가 거의 비례해서 같이 늘어야 한다는 통념에 정면으로 질문을 던지기 때문이다.

실제 recipe에는 무엇이 들어갔나

여러 모델의 출력을 합치는 ensembling.

각 새 모델이 이전 모델에게서 배우는 chain distillation.

데이터가 부족한 환경에서도 generalization을 끌어올리기 위한 heavy regularization과 큰 weight decay.

transformer의 일부 구간을 반복 실행해 prediction당 더 많은 compute를 쓰는 looping.

Q Labs가 던지는 더 큰 메시지는 fixed-data regime에서도 compute를 계속 성능으로 바꿀 수 있느냐는 질문이다. 글은 high-quality text가 앞으로 더 희소한 자원이 될 수 있다고 보고, Slowrun을 그 상황에서의 대응 방식으로 제시한다. 아직 production recipe로 굳어진 결과라기보다 연구 단계의 주장에 가깝지만, scaling law 논쟁을 지켜보는 사람에게는 충분히 중요한 신호다.

Hacker News가 바로 물은 것

여러 독자는 training에서 좋아 보이는 ensemble이 serving 단계에서도 현실적인지 물었다.

또 다른 독자들은 이 이득의 상당 부분을 결국 single deployable model로 압축할 수 있는지가 더 중요하다고 봤다.

일부 댓글은 한 걸음 물러서서, 인간의 data efficiency와 비교 가능한 baseline 자체를 어떻게 정의할 것인지 질문했다.

이 때문에 이 글은 10x라는 숫자가 모든 더 큰 모델 stack으로 곧바로 이어지지 않더라도 의미가 있다. 병목의 위치를 다시 묻기 때문이다. 앞으로 industry가 더 많은 training FLOPs는 살 수 있지만 genuinely new하고 clean한 high-quality text는 그만큼 늘지 않는다면, ensembling, distillation, looped architecture 같은 방법은 주변 실험이 아니라 main scaling conversation 안으로 들어올 가능성이 높다.

남는 과제도 분명하다. ensemble 중심 recipe가 실제 서비스에서 지나치게 비싸다면 연구 성과와 배포 가능성 사이의 간극이 커진다. 결국 이 접근이 benchmark를 넘어서려면, distillation이나 다른 compression 방식으로 inference cost까지 정리할 수 있어야 한다. 바로 그 지점이 Hacker News 독자들이 가장 날카롭게 본 부분이다.

출처: Q Labs article · Hacker News discussion