Zero-shot World Models 논문에 r/MachineLearning이 따진 것
Original: Zero-shot World Models Are Developmentally Efficient Learners [R] View original →
r/MachineLearning thread는 Zero-shot World Models Are Developmentally Efficient Learners 논문을 두고 열렸다. 논문의 중심 주장은 오늘날 AI가 visual competence를 얻기 위해 너무 많은 data를 요구하는 반면, 아이들은 훨씬 제한된 경험으로 depth, motion, object coherence, physical interaction을 이해하기 시작한다는 문제의식에서 출발한다.
저자들은 Zero-shot Visual World Model, 줄여서 ZWM을 제안한다. arXiv abstract 기준으로 ZWM은 appearance와 dynamics를 분리하는 sparse temporally-factored predictor, approximate causal inference를 통한 zero-shot estimation, 그리고 inference를 조합해 더 복잡한 능력을 만드는 구조를 핵심 원리로 삼는다. 논문은 single child의 first-person experience에서 학습한 ZWM이 여러 physical understanding benchmark에서 빠르게 competence를 만든다고 주장한다.
커뮤니티가 반응한 지점은 바로 이 “child-like” framing이었다. 가장 눈에 띈 댓글은 human child가 random weights에서 시작하지 않는다고 지적했다. 유전, 초기 발달, 수억 년 동안 최적화된 network topology가 이미 있는 상태에서 학습이 일어난다는 것이다. 또 다른 댓글은 Single-child BabyView가 약 132 hours라면, 왜 그 data 양을 훨씬 나이 든 아이의 능력과 비교하는지 물었다.
이런 pushback은 논문의 가치를 낮추기보다 오히려 읽을 지점을 선명하게 만든다. ZWM은 “아이와 똑같이 배웠다”는 주장보다, limited first-person video에서 physical inference를 얼마나 조합할 수 있는지를 묻는 연구로 보면 강하다. 그리고 Reddit의 skepticism은 benchmark claim을 developmental analogy와 분리해서 보자는 요구에 가깝다.
결국 이 thread가 좋았던 이유는 community가 headline을 그대로 받아들이지 않았기 때문이다. data-efficient AI는 모두가 원하는 방향이지만, 아이와 model의 출발 조건은 다르다. 그 차이를 인정할수록 ZWM의 기술적 질문도 더 또렷해진다.
Related Articles
Bristol Myers Squibb가 8대 DGX Vera Rubin NVL72 기반 두 번째 DGX SuperPOD를 도입해 전 세계 연구자가 쓰는 단일 AI 환경을 만든다. 기존 AI cluster에서 target identification 시간을 몇 주 줄인 뒤, drug discovery 전 과정으로 compute를 확대하는 결정이다.
Google DeepMind와 Google Cloud가 DOE Genesis Mission 연구자에게 $40M 규모의 AI 토큰과 cloud credit을 제공한다. 목표는 10년 안에 미국 과학 발견 속도를 두 배로 높이는 실험이며, 17개 DOE 국립연구소가 초기 기반이다.
미국 DOE light source 시설의 데이터 병목이 AI 실험 자동화 과제로 커졌다. Meta는 Berkeley Lab의 SYNAPS-I 프로젝트가 SAM 3와 DINOv3로 초당 100,000장까지 늘어난 detector 데이터를 처리한다고 소개했다.