Google, Gemini 3.1 Flash-Lite preview 공개… 고속·저비용 LLM으로 대량 추론 공략

Google은 2026년 3월 3일 Gemini 3.1 Flash-Lite를 발표하고 Google AI Studio의 Gemini API와 Vertex AI에서 preview 제공을 시작했다. Google은 이 모델을 Gemini 3 시리즈 가운데 가장 빠르고 비용 효율적인 모델로 설명하며, 대량 요청을 처리하는 개발자 workload에 초점을 맞췄다.

이번 공개의 핵심

Google에 따르면 Gemini 3.1 Flash-Lite의 가격은 input 100만 token당 $0.25, output 100만 token당 $1.50이다. 회사는 Artificial Analysis benchmark를 인용해 이 모델이 2.5 Flash 대비 첫 응답 token 도달 시간이 2.5배 빠르고, output 속도는 45% 높으면서도 품질은 비슷하거나 더 낫다고 주장했다.

Google은 또한 Arena.ai Elo 1432, GPQA Diamond 86.9%, MMMU Pro 76.8% 같은 benchmark 수치를 제시했다. Google AI Studio와 Vertex AI에서는 thinking level을 조절할 수 있어, 개발자가 latency와 비용, reasoning 깊이 사이의 균형을 use case에 맞게 정할 수 있다는 설명이다.

어떤 작업을 겨냥하나

Google이 예시로 든 workload는 high-volume translation, content moderation, labeling처럼 latency와 단가가 중요한 반복성 추론 작업이다. 동시에 UI 생성, dashboard 생성, simulation, multi-step business task 같은 더 복합적인 instruction 수행도 가능하다고 소개했다. 즉, 소형 tier이지만 단순 분류기보다 넓은 범위를 노린 제품 포지셔닝이다.

Google이 인용한 early-access 사용 사례는 Latitude, Cartwheel, Whering, HubX 등이다. 이 사례들은 frontier research보다 instruction following, multimodal labeling, 대규모 catalog 처리처럼 실제 운영형 파이프라인에 더 무게가 실려 있다.

의미와 관전 포인트

이번 발표의 실질적 의미는 Google이 benchmark 점수만이 아니라 속도와 가격을 전면에 내세웠다는 점이다. agent, search, moderation처럼 상시로 돌아가는 시스템에서는 model 품질만큼 운영비와 응답 지연이 중요하다. Flash-Lite가 preview 이후에도 같은 성능과 안정성을 유지한다면, 비용 민감도가 높은 production inference stack에서 선택지가 하나 더 늘어나는 셈이다.

다만 현재 상태는 preview다. 실제 기업 도입 속도는 traffic 증가 상황에서의 안정성, support 수준, 그리고 Google이 제시한 benchmark가 개별 workload에서도 재현되는지에 달려 있다.

Source: Google