AWSとCerebras、Amazon Bedrock向け分離型inference基盤を共同展開へ

何が起きたのか

AWSとCerebrasは2026年3月13日、クラウド上のAI inference速度と性能の新基準を目指す協業を発表した。両社はこの構成をAWSデータセンターに展開し、Amazon Bedrock経由で今後数カ月以内に提供する計画だとしている。

中核にあるのは inference disaggregation という考え方だ。生成AIの推論を、promptを処理するprefillと、出力トークンを順次生成するdecodeに分離し、それぞれに最適なハードウェアを割り当てる。prefillは高い並列性が求められ、decodeはメモリ帯域と低遅延接続が重要になるため、単一の汎用構成より効率を上げやすいという設計だ。

主要ポイント

• AWSはTrainium搭載サーバーをprefillに、Cerebras CS-3をdecodeに使い、両者をElastic Fabric Adapter(EFA)で結ぶと説明した。
• 同社はこの構成により、現在の代替手段に対してorder-of-magnitude級の高速化が見込めると主張している。
• 今年後半には主要なopen-source LLMとAmazon NovaもCerebrasハードウェア上で提供する予定だという。
• AWSはCerebrasのdisaggregated inferenceを提供する最初のcloud providerであり、Amazon Bedrock経由で独占的に提供すると強調した。

この構成が狙うのは、real-time coding assistantやinteractive application、agent workflowのように、出力待ち時間がそのまま体験価値に直結するワークロードだ。token生成が遅いとAI agentの実用性はすぐに下がるため、推論経路そのものを設計し直すアプローチに踏み込んだ形になる。さらにAWSは、Nitro System上で動作させることで、既存のAWS利用者が期待するsecurity、isolation、運用一貫性も維持できると述べた。

なぜ重要か

今回の発表は、AIインフラ競争の焦点がtraining規模からinference economicsへ移っていることを示している。reasoning modelやagent型アプリケーションではdecode時間が長く、応答遅延がそのままコストと使い勝手に跳ね返るためだ。

Insights読者にとっての示唆は明快だ。今後の差別化は「どのmodelを載せるか」だけではなく、「promptからtokenまでの経路をどれだけ効率よく設計できるか」に広がる可能性が高い。AWSとCerebrasの協業は、その変化を先取りする試みとして見る価値がある。