LLM Hacker News 4h ago 1 min read
小さなmicrocontrollerでLLMを動かす実験の焦点は、賢さではなくmemory layoutだ。25M parametersをflashに置き、tokenごとに必要な行だけ読む。
小さなmicrocontrollerでLLMを動かす実験の焦点は、賢さではなくmemory layoutだ。25M parametersをflashに置き、tokenごとに必要な行だけ読む。
ESP32マイクロコントローラ上でわずか888KB未満で動作するClaw系パーソナルAIアシスタント「zclaw」がGitHubで公開されました。Hacker Newsで161ポイントを獲得し、エッジAIの可能性を示しています。