OpenAI, Amazon Bedrock용 agent Stateful Runtime 공개

새 runtime이 하는 일

OpenAI는 2026년 2월 27일 Amazon과 함께 Amazon Bedrock에서 네이티브하게 동작하는 agent용 Stateful Runtime Environment를 개발하고 있다고 밝혔다. 회사는 이번 발표를 매우 실무적인 문제와 연결했다. AI agents는 추론은 잘할 수 있어도, production 환경에서는 long-running workflows, state 관리, approvals, tool execution, error recovery를 stateless APIs 바깥에서 직접 다뤄야 할 때 쉽게 복잡해진다는 것이다.

OpenAI 설명에 따르면 새 runtime은 여러 단계를 거치는 작업 동안 working context를 유지하도록 설계됐다. 개발자가 끊어진 요청들을 직접 이어 붙이는 대신, memory와 history, tool과 workflow state, environment use, identity와 permission boundaries를 계속 이어받도록 한다는 설명이다. 또한 이 시스템은 고객의 AWS environment 내부에서 동작하고 AWS services에 최적화되도록 설계돼 enterprise 팀이 governance와 security를 기존 운영 체계 안에서 맞추기 쉽게 한다.

OpenAI-Amazon 파트너십 안에서의 위치

이 runtime은 같은 날 발표된 OpenAI-Amazon 협력의 한 축이다. Amazon은 AWS가 OpenAI Frontier의 exclusive third-party cloud distribution provider가 된다고 밝혔다. Amazon은 또 OpenAI가 Stateful Runtime, Frontier, 기타 advanced workloads를 지원하기 위해 AWS 인프라에서 약 2 gigawatts 규모의 Trainium capacity를 사용할 계획이라고 설명했으며, runtime은 향후 몇 달 안에 출시될 예정이라고 덧붙였다.

이 맥락이 중요한 이유는 이번 발표가 단순한 feature update가 아니기 때문이다. OpenAI와 Amazon은 장기 실행형 agent workload를 위한 managed execution environment를 정의하려 하고 있다. 즉 orchestration 부담을 전적으로 애플리케이션 팀에 남겨두지 않고, 고객 cloud boundary에 더 가까운 곳으로 실행 계층을 끌어오려는 시도다. 이는 model 자체와 별개로 agent runtime layer가 전략적 경쟁 지점이 되고 있음을 보여준다.

개발자와 플랫폼팀이 주목해야 할 점

설명대로 구현된다면 당장의 장점은 scaffolding 감소다. multi-system customer support, internal IT automation, finance approvals, sales operations 같은 흐름을 만드는 팀은 custom state handling보다 business logic에 더 많은 시간을 쓸 수 있다. 실제 현장에서는 이 차이가 인상적인 demo와 감사를 견딜 수 있는 production workflow를 가르는 요소가 된다.

더 큰 의미는 agent stack의 분화다. 이제 시장은 raw model endpoints와 managed execution environments를 분리해서 보기 시작했다. OpenAI의 Bedrock runtime은 cloud providers와 model vendors가 더 이상 모델 가중치나 API만이 아니라, agent 주변의 control plane 자체를 핵심 경쟁 영역으로 보고 있음을 보여준다.

출처: OpenAI, Amazon, OpenAI와 Microsoft