idle Macでprivate inference、HNはDarkbloomの収益より信頼モデルを見た

HNのDarkbloom discussionは、decentralized AI computeのpitchに対して健全な疑い方をしていた。Eigen Labsのresearch previewであるDarkbloomは、idle Apple Silicon machineがOpenAI-compatible APIでprivate inferenceを処理するnetworkを示している。サイトでは、requestはユーザーdeviceで暗号化され、coordinatorがroutingし、hardened process内でdecryptされ、responseは処理したmachineが署名すると説明されている。

魅力は分かりやすい。Darkbloomは、100 million台を超えるApple Silicon machineが一日の多くをidle状態で過ごす一方、AI computeはGPU vendor、hyperscaler、API provider、end userを通るたびにmarkupが乗ると見る。すでに所有されているMacが安全にinferenceを担えるなら、ユーザーは安く使え、hardware ownerは余っているmachineから収益を得られる。ページはcentralized alternative比でup to 70% lower costs、workload次第で$0.01–0.03 per hourのelectricity costを掲げている。

HNはそのまま受け取らなかった。コメント欄ではまずrevenue mathが疑われた。Mac miniが本当に短期間で元を取れるなら、network側が自分でMacを買わない理由は何か、という問いだ。実際に試したユーザーは、短いテスト中にhealth checkとattestationは見たが実際のinference requestはなかったと報告し、議論はsupplyよりdemandの立ち上げへ向かった。operator側では、普段使いのmachineにmanagement softwareを入れる信頼問題も大きかった。

最も厳しい論点はprivacy modelだった。コミュニティは、Apple Secure Enclaveがarbitrary code向けのSGX、TDX、SEV型general-purpose enclaveと同じではない点を指摘した。consumer Macでverifiable private inferenceを主張するなら、OS hardening、attestation、memory access blockingがどこまで効くのかを慎重に読む必要がある。このthreadの価値はそこにある。Darkbloomはidle local hardwareをAI infrastructureへ変える面白い試みだが、HNはprivacy、attestation、marketplace bootstrappingこそが本体だと見ていた。