Microsoftは、Azure Container Appsに新機能「Dynamic Sessions（ダイナミック セッション）」を追加したと発表した。AIタスクに特化したエフェメラル（一時的）なサンドボックスコンピューティング環境を迅速にスピンアップできる仕組みで、アイドル時のコスト削減と推論レスポンスの向上を同時に実現する。

Dynamic Sessionsとは何か

Dynamic Sessionsは、AIエージェントや生成AIアプリケーションがコードを安全に実行したり、外部ツールを呼び出したりするための使い捨てサンドボックスを動的に生成する機能だ。セッションは必要なときにだけ起動し、タスク完了後は自動的に破棄される。従来のコンテナアプリと異なり、常時稼働のプロセスを維持する必要がなく、アイドル状態でのコンピューティングコストを大幅に削減できる。

解決する課題

LLM（大規模言語モデル）ベースのAIエージェントが急速に普及するにつれ、推論処理の中でPythonコードの実行・外部API呼び出し・ファイル操作といった「ツール使用」のニーズが急増している。こうした処理を既存の本番コンテナ内で直接実行すると、セキュリティリスクやリソース競合が問題になりやすい。Dynamic Sessionsはこの課題を根本から解決するアーキテクチャを提供する。

主な特徴は以下の通りだ。

  • 即時起動: リクエストのたびにサンドボックスを高速生成し、推論レスポンスのレイテンシを最小化
  • 完全な隔離: 各セッションは独立した環境で実行されるため、セッション間のデータ漏洩リスクがない
  • スケーラビリティ: 並列AIワークロードに対して自動的にセッションをスケールアウト
  • コスト最適化: 使った分だけの課金で、アイドルコストをゼロに近づける

日本市場への影響

CopilotやカスタムAIエージェントを企業向けシステムに組み込む動きが国内でも加速している。特に製造・金融・小売分野でのAIエージェント導入が進む中、安全なコード実行環境のニーズは高まる一方だ。Azure上でAIエージェントを構築している日本の開発チームにとって、Dynamic Sessionsはインフラ管理の複雑さを減らしながらセキュリティ要件を満たす現実的な選択肢となりうる。

利用開始

Dynamic Sessionsは現在、一部顧客向けのプレビュー段階にある。Azure Container Appsを利用中のユーザーはAzureポータルまたはAzure CLIから機能を有効化できる。GA（一般提供）のタイムラインはMicrosoftから追って発表される予定だ。

AIエージェント基盤をクラウドに構築する際の「実行環境の安全な分離」という課題に、Azureが本格的な解答を示した形となる。今後のGA展開と料金体系の詳細に注目したい。

元記事: Azure Container Apps Dynamic Sessions: Ephemeral Compute for AI Inference