Microsoft Foundry, Fireworks AI로 Azure open model inference 강화
Microsoft는 Fireworks AI가 Microsoft Foundry에 들어오면서 Azure에서 high-performance, low-latency open model inference를 제공한다고 밝혔다. day-zero access, custom model 반입, enterprise control을 한곳에서 제공하는 것이 핵심 메시지다.
원문: Building with open models just got easier! @FireworksAI_HQ in Microsoft Foundry brings high-performance, low-latency open model inference to Azure. Day-zero access to leading open models + bring your own custom models + enterprise controls in one place: https://msft.it/6012QcCaM 원문 보기 →
Microsoft는 2026년 3월 11일 X를 통해 Fireworks AI가 Microsoft Foundry에 합류했다고 밝혔다. 회사는 이번 통합으로 Azure에서 high-performance, low-latency open model inference를 제공하고, leading open model에 대한 day-zero access와 bring-your-own custom model, enterprise control을 하나의 surface에서 지원한다고 설명했다.
함께 공개된 Azure Blog는 이번 출시를 open model용 low-latency·high-throughput inference와 custom model의 performance-optimized deployment를 더 쉽게 만드는 조치로 소개했다. 이는 많은 enterprise AI 팀이 open model의 선택권은 원하지만, inference stack·routing layer·governance 체계를 처음부터 직접 운영하고 싶어 하지는 않는다는 점과 맞물린다.
Microsoft Foundry는 그동안 model selection, evaluation, deployment, governance를 묶는 central surface로 자리 잡으려 해왔다. 여기에 Fireworks AI 같은 specialized inference provider가 들어오면, 고객은 별도 조달·운영 경로를 만들지 않고도 더 넓은 open model ecosystem에 접근할 수 있다.
왜 중요한가
- enterprise는 managed platform control과 빠른 open model 접근성을 동시에 얻을 수 있다.
- developer는 Azure 안에서 실험에서 production까지 이어지는 경로를 더 짧게 만들 수 있다.
- 이는 Microsoft가 Foundry를 단순 catalog가 아니라 multi-provider AI infrastructure의 control plane으로 키우려 한다는 신호로 읽힌다.
이제 관건은 실제 고객이 latency, throughput, model coverage 측면에서 체감할 만한 차이를 얻는지다. 만약 그렇다면 Fireworks AI on Microsoft Foundry는 Azure가 open model production traffic을 끌어오는 데 의미 있는 레버가 될 수 있다. 특히 closed model과 open model을 함께 운영하는 기업에게는 선택지와 governance를 동시에 확보하는 구조가 매력적일 수 있다.
Primary sources: Azure on X, Azure Blog.
관련 기사
NVIDIA, multi-agent AI용 Nemotron 3 Super 공개
NVIDIA AI Developer는 2026년 3월 11일 Nemotron 3 Super를 공개하며, 12B active parameters를 사용하는 오픈 120B-parameter hybrid MoE 모델과 native 1M-token context를 강조했다. NVIDIA는 이 모델이 이전 Nemotron Super 대비 최대 5배 높은 throughput으로 agentic workload를 겨냥한다고 설명했다.
vLLM speculative decoding, AMD GPU서 최대 2.87배…길게 예측한다고 빠를까
초안 토큰을 많이 뽑는 것보다 실제 작업에서 얼마나 받아들여지는지가 속도를 갈랐다. vLLM이 AMD MI300X·MI355X에서 다섯 방식을 비교한 결과 최대 2.87배를 기록했지만, 모델·업무·제안 길이에 따라 기준선 아래로 내려간 조합도 있었다.
LLM이 직접 고르는 attention 범위, KV cache 읽기 절반으로
긴 문맥 전체를 매 토큰마다 훑지 말고 모델이 필요한 구간을 직접 선언하게 하자는 단순한 발상이 연구자들의 눈길을 끌었다. Declarative Attention은 기존 모델을 재학습하지 않고도 총 attention 대상 토큰을 최대 52.0% 줄였지만 정확도 손실과 실제 지연 시간 검증이 과제로 남는다.