OpenAI 자체 추론 칩 '할라페뇨' 공개: Nvidia 대비 최대 3.6배 빠른 응답

OpenAI의 첫 자체 실리콘

OpenAI가 Broadcom과 공동 개발한 추론 전용 커스텀 칩 '할라페뇨(Jalapeño)'의 초기 성능 결과를 8월 25일 공개했다. Nvidia 하드웨어 의존도를 줄이고 자체 실리콘 공급망을 구축하는 장기 로드맵의 첫 번째 성과다.

성능: Nvidia GB200·GB300을 상회

128개 칩 구성에서 할라페뇨는 Nvidia GB200·GB300 랙 시스템 대비 킬로와트당 처리량 1.5~1.9배 향상, 종단간 응답 지연 1.7~3.6배 단축을 달성했다. TDP는 700W이지만 실제 테스트에서 지속 전력은 550W 이하를 유지했다. 128칩 구성 기준 4비트 컴퓨팅 성능 1.7 엑사플롭스, HBM4 27.5TB, 메모리 대역폭 15.4TBps다.

AI가 설계한 AI 칩

OpenAI는 할라페뇨가 'AI를 위해 AI가 설계한' 칩이라고 강조했다. 이는 OpenAI 멀티 제너레이션 실리콘 로드맵의 1세대로, 삼성이 HBM4를 공급하는 것으로 알려졌다.

배포 일정 및 전략적 의미

2026년 말까지 배포를 시작할 예정이다. Bloomberg는 할라페뇨가 Nvidia 마진에 새로운 위협이 될 수 있다고 분석했다. GPT-5.6 Sol·Terra·Luna 등 모델 서빙 비용 구조를 근본적으로 바꿀 잠재력이 있다.

공식 발표: openai.com