기사

OpenAI가 Broadcom과 공동 개발한 첫 번째 자체 추론 전용 칩 Jalapeño의 벤치마크 결과를 공개했다. InferenceX 테스트에서 NVIDIA GB200/GB300 대비 와트당 처리량이 1.5~1.9배, 지연 시간이 1.7~3.6배 개선됐으며, 대화형 워크로드에서는 최대 4.1배 빠른 속도를 기록했다.

LLM 경쟁의 병목이 모델 크기에서 추론 인프라로 이동하고 있다. OpenAI는 Broadcom과 만든 Jalapeno가 9개월 만에 테이프아웃됐고 2026년 말부터 기가와트 규모 배치를 목표로 한다고 밝혔다.

Anthropic은 2026년 4월 7일 Google·Broadcom과 차세대 TPU 용량을 수 기가와트 규모로 확보하는 계약을 맺었다고 밝혔다. 같은 발표에서 연환산 매출이 300억 달러를 넘었고, 연간 100만 달러 이상을 쓰는 기업 고객도 1,000곳을 넘어섰다고 설명했다.