AI token 가격표, 이제 ROI 질문을 피하기 어려운 이유

생성형 AI 비용 논의가 모델 순위표에서 예산표로 이동하고 있다. David Rosenthal의 글은 OpenAI, Anthropic, Microsoft 같은 플랫폼이 지금까지 낮은 정액제와 넉넉한 사용 한도로 수요를 키웠고, 이제 token 기반 과금과 rate limit 조정으로 실제 비용을 회수하려 한다는 문제를 짚는다. 논점은 단순히 “AI가 비싸다”가 아니라, 기업 사용자가 그 비용을 감당할 만큼 명확한 수익을 얻고 있느냐에 있다.

글은 Ed Zitron과 SemiAnalysis가 제기한 숫자를 끌어온다. 월 200달러 개인 요금제로 훨씬 큰 token 사용량을 태울 수 있다는 분석, OpenAI의 2025년 매출과 비용 구조, GitHub Copilot의 token 기반 과금 전환 흐름이 함께 놓인다. 이 수치들은 모두 추정과 해석이 섞여 있으므로 그대로 회계 장부처럼 읽을 수는 없다. 그래도 커뮤니티가 반응한 지점은 분명하다. 사용량이 늘수록 공급자와 고객 모두 비용을 더 세밀하게 보게 된다는 점이다.

HN 댓글은 현장의 변화를 파고들었다. 한 사용자는 회사들이 “AI를 쓰라”는 분위기에서 벗어나 고가 모델 사용량을 감시하고, 보고하고, 과다 사용을 관리하는 쪽으로 움직였다고 설명했다. 다른 댓글은 모델 가격이 내려가더라도 많은 기업이 AI 투자에서 실제 ROI를 찾지 못하면 token 예산이 줄어들 수 있다고 봤다. 성능 향상만으로 예산 확대가 자동 보장되지는 않는다는 얘기다.

이 논의가 중요한 이유는 AI 도입의 다음 단계가 기능 데모가 아니라 비용 회계이기 때문이다. coding agent, enterprise chat, RAG 시스템은 모두 더 긴 context와 더 많은 inference를 요구한다. 사용자가 체감하는 생산성이 비용보다 빠르게 올라가지 않으면, 기업은 최고급 모델을 기본값으로 두기보다 routing, caching, 작은 모델, 자체 호스팅을 조합하려 한다.

따라서 이 글은 AI 산업의 종말론이라기보다 가격 신호가 본격적으로 드러나는 순간에 가깝다. 모델이 더 싸지고 좋아질 가능성은 크지만, 구매자는 이제 “쓸 수 있느냐”보다 “계속 써도 되는 비용인가”를 묻는다. 커뮤니티의 관심도 그 질문에 모였다.