1. 【最重要】SageMaker AI、GPUを最大7領域に分割して複数モデルを推論
発表日：2026年10月30日｜提供開始済みの新機能
AWSはAmazon SageMaker AIのリアルタイム推論エンドポイントでGPUパーティショニングに対応しました。NVIDIA Multi-Instance GPU（MIG）を利用し、1基のGPUを最大7つのハードウェア隔離領域へ分割します。Embedding、Reranker、Classifier、小型のファインチューニングモデルなど、GPU全体を使い切らない推論をまとめられます。
なぜ重要か
RAGのパイプラインでは複数の小さなモデルを併用します。モデルごとにGPUを専有させる構成と比べ、未使用のGPU容量を削減できる可能性があります。MIGはGPUメモリと演算スライスを隔離しますが、ホストCPU・メモリ・ストレージ・ネットワークは共有されます。
開発者向け：API・実装・性能・料金
| 項目 | 公式情報で確認した内容 |
|---|---|
| API設定 | Production VariantのAcceleratorPartitionLayoutsとInference ComponentのAcceleratorPartitionType |
| 新しいAPI操作 | 追加なし。既存の推論呼び出しでInference Component名を指定 |
| 分割例 | P4d/A100 40GBならmig-1g.5gbで最大7領域、P5/H100 80GBならmig-1g.10gbで最大7領域 |
| GPU別制約 | G7/RTX PRO 4500は最大2領域、G7e/RTX PRO 6000は最大4領域 |
| 対応機種 | P4d、P5、G7、G7e |
| リージョン | 東京、シンガポール、バージニア北部、オハイオ、オレゴン、フランクフルト、アイルランド |
| 料金 | GPUインスタンス等は通常課金。新機能固有の追加単価は発表文に記載なし |
| 性能 | 一律のレイテンシ・スループット・コスト削減率は未公表 |
実装上の注意： パーティションのレイアウトはエンドポイント作成時に確定します。稼働中のレイアウトをUpdateEndpointで変更することはできず、新しいエンドポイントが必要です。分割されたエンドポイントは呼び出し・レイテンシ指標を出しますが、GPU・CPU・メモリの使用率メトリクスは提供しないとドキュメントに明記されています。GPU稼働率の比較は別の計測設計が必要です。
評価の考え方： 7分割は7倍の性能を意味しません。モデルの常駐メモリ、同時実行、P95レイテンシ、実際のインスタンス費用を比較してください。
一次情報： AWS公式発表 ／ SageMaker AI公式実装ドキュメント