Hacker Newsが見たRecoのJSONata AI再実装、同社は年50万ドル削減を主張

Recoが長くお金を払って回避していた問題

2026年3月25日、Recoは自社のSaaS security pipelineが長いあいだJSONata expressionをNode.js RPC fleet経由で評価していたと説明した。理由はreference implementationがJavaScriptで、同社の主pipelineはGoだからだ。記事によれば、何十億ものeventと何千ものexpressionがこのlanguage boundaryを行き来し、各RPC round-tripだけで実際の評価前に約150 microsecondsを消費していた。Recoはこのオーバーヘッドだけで年約30万ドルのcompute costが発生し、一部環境ではclusterが200 replicaを超えたと書いている。

同社によると、expression最適化、caching、さらにはV8をGoへembeddingする試みまで行ったが、得られたのは主に漸進的改善だった。転機はCloudflareによるNext.js API surfaceのAI再実装事例を読んだことだった。Recoはほぼ同じ方法を採った。official test suiteをまず移植し、そのspecを満たすまでAIで実装を進めたのである。

チームが言うAIの実際の成果

結果がgnataだ。RecoはこれをJSONata 2.xのpure-Go implementationとして紹介し、初期形を約7時間と400ドル程度のtoken costで立ち上げたと主張する。記事では、成果物が約13,000 linesのGo code、official test 1,778件通過、さらにproduction wrapper側で2,107件のintegration testを加えた状態だと説明している。設計は二層構成で、simple lookupや一部built-in functionはraw JSON bytes上でzero heap allocationで処理するfast pathが担当し、complex expressionは必要なsubtreeだけをparseするfull pathが扱う。

Recoがより大きな利得として挙げるのは、このevaluatorを既存Go serviceへ直接組み込めた点だ。繰り返し発生していたserializationとRPC costが不要になったという。会社説明では、simple lookupは約1,000倍高速化し、complex expressionでもなお25倍から90倍の改善があり、専用JSONata RPC fleetはゼロになった。

なぜ数字が30万ではなく50万ドルになったのか

記事はgnata実用化後の二次効果も述べている。JSONataがもはや一度に一つのexpressionしかRPCで処理できない制約を持たなくなったことで、Recoはrule engine周辺を単純化し、goroutineの爆発を抑え、より良いmicro-batchingとgrouped enrichment queryを導入できたという。同社によれば、それだけで月約1万8千ドルの追加削減となり、2週間足らずの作業で年50万ドル規模に到達した。rollout手順も興味深い。preproductionのshadow mode、mismatch logging、そして実ワークロードで3日連続zero mismatchを確認してからprimaryへ昇格させた。

Hacker Newsの反応はクロール時点で256 points、237 commentsだった。議論は有益な線で分かれた。一方はROIとspec-driven手法を評価し、もう一方はこれは魔法のcode generationではなく、既存spec、test suite、review processの上でAIをforce multiplierとして使った事例だと見た。Reco自身の記述もその読みを後押しする。同社は、AI生成コードをAI agentがreviewする過程でnoiseが増え、どの指摘が本当に意味あるfindingかを調整し直す必要があったとも書いている。

原典: Reco engineering post。コミュニティ議論: Hacker News。