1. 【最重要】AWS「Infinity」公開 — 8GBで75,000エージェントを保持する新ランタイム

公開：10月23日｜新OSS・研究プレビュー

Amazon Web ServicesとUC Berkeleyの共同研究プロジェクト「Hydro」が、AIエージェント向けの新しい実行基盤「Infinity」を公開しました。

最大の特徴は、エージェントが外部ツールを呼び出した時点で会話履歴を保存し、実行プロセスを終了できることです。

ツールの処理結果が返ってきたら、保存した状態からエージェントを再開します。

Apache 2.0ライセンスで公開され、AWS Lambdaなどのサーバーレス環境でも動作します。

なぜ重要か

従来のAIエージェントでは、ツール実行中に待機処理が発生します。

例えば、Coding Agentが20分かかるビルドを開始した場合です。

一般的な同期型の実装では、処理の完了を待つためにワーカーや実行環境を保持します。

Infinityでは、待機中のエージェントを会話履歴として永続化し、計算資源を解放できます。

技術・実装ポイント

Infinityは、プログラミング言語の非同期処理で使われる「Stackless Coroutine」の考え方をAIエージェントに応用しています。

textユーザーからの依頼
        ↓
AIエージェント起動
        ↓
LLMがツール呼び出し
        ↓
会話履歴を保存
        ↓
ツールを非同期実行
        ↓
エージェントを停止
        │
        │ 待機中の計算資源を解放
        │
        ↓
ツール結果をキューで受信
        ↓
会話履歴を復元
        ↓
エージェント再開

AWSが公開した参考アーキテクチャは次の構成です。

性能： AWSの合成ベンチマークでは、80,000エージェント、320万回のモデル応答相当を処理し、アイドル状態のエージェント1件当たり約100KBのメモリ使用量を報告しています。

この結果から、8GBで約75,000エージェントを保持できると推定しています。

ただし、これは75,000件のLLM推論を同時実行できるという意味ではありません。

API・実装： Rust製フレームワークで、独自ツール、MCP、非同期イベント、子エージェントに対応します。

料金： Infinity自体は無料のOSSです。Lambda、SQS、Aurora DSQL、Bedrockなどには通常の利用料金が発生します。

利用条件： 現在は初期研究リリース。本番導入には障害復旧、イベントの真正性、セキュリティなどの検証が必要です。

公式情報：AWS技術解説 ／ Infinity公式ドキュメント ／ Lambda実装ガイド