Cloudflare AI Platform에 HN이 물은 것: agent inference의 배관인가, 또 다른 router인가

Cloudflare's AI Platform thread는 302점까지 올라갔지만, 반응은 단순한 제품 환호가 아니었다. 원문 Cloudflare 글은 AI Gateway를 중심으로 여러 model provider를 한 inference layer에서 호출하게 만들고, Workers AI binding integration과 expanded catalog, multimodal models를 추가했다는 설명을 내놨다. HN은 이것을 agent 시대의 배관으로 볼 수 있는지 먼저 물었다.

긍정적인 쪽은 Cloudflare가 이미 CDN, Workers, storage, observability를 가진 회사라는 점에 주목했다. agent application은 model call만으로 끝나지 않는다. request routing, latency, logs, fallback, cost visibility, edge runtime과의 연결이 같이 필요하다. 그런 의미에서 AI Gateway가 Workers와 더 가까워지는 것은 developer workflow상 의미가 있다.

하지만 thread의 더 큰 에너지는 회의적인 질문에서 나왔다. 한 댓글은 이것이 Cloudflare networking을 얹은 OpenRouter에 가까운 것 아니냐고 물었다. 다른 사용자는 production app에서 flagship model pricing이 부정확하게 보였다는 경험을 들며, inference layer가 믿을 수 있으려면 catalog와 price metadata의 정확성이 먼저라고 지적했다. 또 Workers AI model list와 새 AI model catalog 사이의 overlap이 명확하지 않다는 혼란도 나왔다.

이 논쟁이 유용한 이유는 agent infra의 승부가 model 수만으로 끝나지 않기 때문이다. 개발자는 “어떤 model을 부를 수 있나”보다 “그 호출을 운영 중에 얼마나 예측 가능하게 관리할 수 있나”를 본다. Cloudflare가 강한 영역은 network와 developer platform이지만, HN이 요구한 것은 더 구체적이다. routing이 쉬워지는 만큼 billing, observability, model availability도 같은 수준으로 단단해야 한다는 것이다.