OpenAI, Responses API에 container pool 추가… hosted shell·code interpreter 10배 가속

X에서 OpenAI Developers가 밝힌 내용

2026년 3월 21일 OpenAI Developers는 agent workflow가 더 빨라졌다고 발표했다. 핵심은 Responses API에 container pool을 추가해 skills, hosted shell, code interpreter용 실행 환경을 약 10배 빠르게 띄울 수 있게 했다는 점이다. 새 요청마다 완전히 새로운 컨테이너를 만드는 대신, 이미 떠 있는 warm infrastructure를 재사용하도록 경로를 바꿨다는 설명이다.

업데이트된 hosted shell 문서가 보여주는 변화

함께 연결된 OpenAI 문서는 이 변화를 hosted shell 가이드 안에서 더 구체적으로 보여준다. 요청 시 container_auto를 사용하면 OpenAI가 컨테이너를 자동으로 준비하고, 이후에는 container_reference로 살아 있는 컨테이너를 다시 참조할 수 있다. 문서는 hosted shell이 OpenAI-hosted containers 위에서 동작하며 Code Interpreter와 같은 lifecycle을 따른다고 적고 있다.

• 컨테이너는 어디까지나 ephemeral 환경이므로 영구 데이터는 외부 시스템에 저장해야 한다.
• 컨테이너가 활성 상태인 동안 생성한 파일과 artifact는 재사용과 다운로드가 가능해 multi-step agent 작업에 유리하다.
• OpenAI는 hosted shell 컨테이너가 20분 동안 비활성이면 만료되며, 만료 후에는 데이터를 복구할 수 없다고 설명한다.

왜 중요한가

shell 실행이나 임시 런타임이 필요한 agent에서는 컨테이너 cold start가 체감 지연의 큰 부분을 차지한다. warm container를 재활용할 수 있으면 agent는 인프라 준비를 기다리는 시간이 줄고, 파일 읽기, 명령 실행, 도구 반복 호출 같은 실제 작업에 더 빨리 들어갈 수 있다. 특히 tool-using workflow가 짧은 턴을 많이 반복할수록 이 차이는 누적된다.

이번 변화는 Responses API의 역할이 단순한 텍스트 생성 계층을 넘어, 모델 호출과 실행 환경을 함께 조정하는 제어면으로 확장되고 있음을 보여준다. 동시에 OpenAI 문서가 분명히 하듯 hosted container는 편의성을 위한 실행 환경이지 영속적인 작업 공간이 아니다. 그래서 개발팀 입장에서는 빠른 hosted runtime 이점을 활용하되, 상태 저장과 artifact 보존은 여전히 별도 스토리지와 워크플로 설계로 처리해야 한다.

출처: OpenAI Developers X 게시물 · OpenAI hosted shell 가이드