Hacker News가 주목한 Reco의 JSONata AI 재구현, 회사는 연 50만 달러 절감 주장

Reco가 비용을 내고 피하고 있던 문제

2026년 3월 25일 Reco는 자사 SaaS security pipeline이 오랫동안 JSONata expression을 Node.js RPC fleet를 통해 평가해 왔다고 설명했다. 이유는 reference implementation이 JavaScript이고, 회사의 주 pipeline은 Go이기 때문이다. 글에 따르면 수십억 건 이벤트와 수천 개 expression이 이 language boundary를 계속 넘나들었고, 각 RPC round-trip만으로도 실제 평가 전 약 150 microseconds가 소비됐다. Reco는 이 오버헤드만으로도 연간 약 30만 달러의 compute 비용이 발생했고, 일부 환경에서는 cluster가 200 replica를 넘겼다고 적었다.

회사에 따르면 이전에도 expression 최적화, caching, 심지어 V8을 Go 안에 embedding하는 시도까지 했지만 대부분 점진적 개선에 그쳤다. 전환점은 Cloudflare가 Next.js API surface를 AI로 다시 구현한 사례를 읽은 뒤였다. Reco는 거의 같은 방법을 택했다. official test suite를 먼저 옮기고, 그 spec을 통과할 때까지 AI로 구현을 밀어붙인 것이다.

팀이 말하는 AI의 실제 산출물

그 결과물이 gnata다. Reco는 이것을 JSONata 2.x의 pure-Go implementation이라고 소개하며, 초기 형태를 약 7시간과 400달러 수준의 token 비용으로 만들었다고 주장한다. 글은 결과물이 약 13,000 lines의 Go 코드와 official test 1,778개 통과, 여기에 production wrapper 통합 테스트 2,107개가 더해진 상태라고 설명한다. 설계는 두 계층으로 나뉜다. simple lookup과 일부 built-in function은 raw JSON bytes 위에서 zero heap allocation으로 처리하는 fast path가 맡고, complex expression은 필요한 subtree만 파싱하는 full path가 담당한다.

Reco가 강조하는 더 큰 이익은 evaluator를 기존 Go service 안에 직접 넣었다는 점이다. 반복적인 serialization과 RPC 비용을 더 이상 낼 필요가 없다는 것이다. 회사 설명대로라면 simple lookup은 약 1,000배 빨라졌고, complex expression도 여전히 25배에서 90배 정도 빨라졌으며, 전용 JSONata RPC fleet는 완전히 사라졌다.

왜 숫자가 30만이 아니라 50만 달러가 됐나

글은 gnata가 가능해진 뒤의 2차 효과도 설명한다. JSONata가 더 이상 한 번에 하나의 expression만 RPC로 처리하도록 강제하지 않으면서, Reco는 rule engine 주변 구조를 단순화하고 goroutine 폭증을 줄이며 더 나은 micro-batching과 grouped enrichment query를 도입할 수 있었다고 말한다. 회사 주장대로라면 이것만으로도 월 약 1만 8천 달러가 추가로 절감돼, 2주도 안 되는 작업으로 연간 약 50만 달러 절감에 도달했다. rollout 방식도 눈에 띈다. preproduction shadow mode, mismatch logging, 실제 workload에서 3일 연속 zero mismatch를 확인한 뒤 primary로 승격했다.

Hacker News 반응은 크롤링 시점 기준 256 points와 237 comments였다. 토론은 유용한 선을 따라 갈렸다. 일부는 ROI와 spec-driven 방법론을 높게 평가했고, 다른 일부는 이 이야기가 마법 같은 code generation이 아니라 기존 spec, test suite, review process 위에서 AI를 force multiplier로 쓴 사례라고 봤다. Reco 스스로도 그런 해석을 뒷받침한다. 회사는 AI가 만든 코드를 AI agent가 review하는 과정에서 noise가 많아져, 어떤 지적이 실제로 의미 있는지 다시 조정해야 했다고 적었다.

원문: Reco engineering post. 커뮤니티 토론: Hacker News.