Google, Gemini 3.1 Flash-Lite 공개… 고빈도 AI 워크로드용 저비용·고속 모델

Google이 발표한 내용

2026년 3월 3일, Google은 Gemini 3.1 Flash-Lite를 발표했다. Google은 이를 Gemini 3 시리즈 가운데 가장 빠르고 가장 비용 효율적인 모델이라고 설명하며, 대규모 production 환경에서 반복적으로 호출되는 developer workload를 겨냥했다고 밝혔다. 배포 형태는 즉시 전면 일반 공개가 아니라 preview이며, 개발자는 Google AI Studio의 Gemini API를 통해, 기업은 Vertex AI를 통해 사용하게 된다.

이번 발표의 핵심은 모델 품질 자체보다도 운영 경제성에 있다. Google은 input 가격을 $0.25/1M input tokens, output 가격을 $1.50/1M output tokens로 제시했다. 동시에 Gemini 2.5 Flash 대비 2.5배 빠른 Time to First Answer Token, 45% 높은 output speed를 강조했다. 즉, 단순히 값싼 small model이 아니라, 빠르게 응답해야 하는 실서비스의 throughput과 latency 문제를 동시에 겨냥한 포지셔닝이다.

Google이 강조한 세부 포인트

• Google은 Arena.ai Leaderboard에서 Elo 1432를 기록했다고 밝혔다.
• GPQA Diamond 86.9%, MMMU Pro 76.8%를 포함한 reasoning·multimodal benchmark 성능을 제시했다.
• 주요 활용 사례로 translation, content moderation, user interfaces and dashboards 생성, simulations, instruction following을 들었다.
• AI Studio와 Vertex AI에서 thinking levels를 기본 제공해 workload별 추론 강도를 조절할 수 있다고 설명했다.

왜 중요한가

AI 시장의 경쟁 축이 frontier benchmark 1등 경쟁만으로는 설명되지 않는다는 점이 다시 확인됐다. 실제 서비스 운영에서는 request volume이 높아질수록 모델 단가, 첫 토큰 지연, output throughput이 더 직접적인 사업 지표가 된다. Google은 Flash-Lite를 통해 가장 큰 수익 기회가 거대 model이 아니라 대량 호출형 production tier에 있을 수 있다는 점을 분명히 보여줬다.

또 하나의 의미는 small model의 역할 변화다. 이전 세대의 low-cost 모델이 단순 classification이나 template 응답에 가까웠다면, Google은 이번에 UI 생성, dashboard 생성, simulation, multi-step business task까지 예시로 제시했다. 이는 저비용 tier가 단순 보조 모델이 아니라, 실제 product surface를 구성하는 주력 실행 계층으로 올라오고 있음을 뜻한다.

출처: Google 공식 발표