#nanochat

Andrej Karpathy は autoresearch によって nanochat の Time to GPT-2 が 2.02 hours から 1.80 hours に下がったと述べた。agent が約2日で約700件の変更を探索し、約20件の additive improvement を見つけたという説明だが、この結果は独立監査済み benchmark ではなく source claim として読む必要がある。

Andrej Karpathyが、縮小版nanochat training loopをAI agentがovernightで反復実験できるautoresearch repoを公開した。固定5分run、Git branch、validation lossベースの選別を組み合わせ、agent研究をclosed-loop workflowに変える試みだ。