1. 【最重要】SageMaker AI、GPUを最大7領域に分割して複数モデルを推論

発表日：2026年10月30日｜提供開始済みの新機能

AWSはAmazon SageMaker AIのリアルタイム推論エンドポイントでGPUパーティショニングに対応しました。NVIDIA Multi-Instance GPU（MIG）を利用し、1基のGPUを最大7つのハードウェア隔離領域へ分割します。Embedding、Reranker、Classifier、小型のファインチューニングモデルなど、GPU全体を使い切らない推論をまとめられます。

なぜ重要か

RAGのパイプラインでは複数の小さなモデルを併用します。モデルごとにGPUを専有させる構成と比べ、未使用のGPU容量を削減できる可能性があります。MIGはGPUメモリと演算スライスを隔離しますが、ホストCPU・メモリ・ストレージ・ネットワークは共有されます。

開発者向け：API・実装・性能・料金

実装上の注意： パーティションのレイアウトはエンドポイント作成時に確定します。稼働中のレイアウトをUpdateEndpointで変更することはできず、新しいエンドポイントが必要です。分割されたエンドポイントは呼び出し・レイテンシ指標を出しますが、GPU・CPU・メモリの使用率メトリクスは提供しないとドキュメントに明記されています。GPU稼働率の比較は別の計測設計が必要です。

評価の考え方： 7分割は7倍の性能を意味しません。モデルの常駐メモリ、同時実行、P95レイテンシ、実際のインスタンス費用を比較してください。

一次情報： AWS公式発表 ／ SageMaker AI公式実装ドキュメント

↑ 今日の5件に戻る

2. AWS、Step Functionsの既存業務フローをAgentCoreのMCPツールとして公開

発表日：2026年10月29日｜提供開始済みの新機能

AWSは、AWS Step FunctionsのState MachineをAmazon Bedrock AgentCore Gateway経由でMCPツールとして公開できるようにしました。エージェントは「いつ、どの入力で実行するか」を判断し、業務処理の順序と再試行・エラー処理は既存のState Machineに任せます。StandardとExpressの両方に対応します。

なぜ重要か

返金・申請・データ処理などの業務では、LLMに承認手順を自由に変更させるべきではありません。エージェントの判断と、決定論的な業務フローの実行を分離できます。独自LambdaやMCPサーバーを新規実装せずに既存資産を活用できます。

開発者向け：API・実装・料金

json{
  "mcp": {
    "connector": {
      "source": { "connectorId": "states" },
      "configurations": [
        {
          "name": "StartExecution",
          "parameterValues": {
            "stateMachineArn": "arn:aws:states:REGION:ACCOUNT:stateMachine:Workflow"
          }
        }
      ]
    }
  }
}

MCPクライアントはtools/listで利用可能なツールを確認し、tools/callで実行します。固定したARNはツールスキーマに現れず、クライアントから上書きできません。

セキュリティ： DescribeExecutionなどは実行ARNを引数に取るため、IAMのリソース制限が重要です。タスクトークン操作はIAMで実行単位の制限ができないため、トークン自体を秘密として扱ってください。性能： 新機能固有のベンチマークは未公表です。

一次情報： AWS公式発表 ／ Step Functions実装チュートリアル ／ コネクタAPI仕様

↑ 今日の5件に戻る

3. NVIDIA、TensorRT Edge-LLMでNemotronをローカルAPI配信 — 生成速度を実測

記事公開：2026年10月30日｜実装ガイド（モデルの初発表ではない）

NVIDIAは、TensorRT Edge-LLMでDGX Spark 64GB上にNemotron-3.5 Lightningを導入する手順を公開しました。軽量なC++推論ランタイムとtrtedge CLIでモデルを取得し、TensorRTエンジンを構築できます。開発中はOpenAI互換APIで呼び出し、Jetson Thorなどのエッジ機器への展開を想定しています。

なぜ重要か

クラウドAPIを呼ばず、推論エンジンとモデルをローカル環境に置いてエージェントを開発・検証できます。性能評価の条件が具体的に示されているため、エッジ配備時の設計判断に使えます。

開発者向け：実装とAPI

bashpython -m pip install "tensorrt-edgellm[server]==0.11.1"
trtedge chat nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4
trtedge serve nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4 --host 127.0.0.1 --port 8000
curl -fsS http://127.0.0.1:8000/health/ready

ローカルの/v1/chat/completionsにChat Completions形式でリクエストできます。初回はモデル約21GBをダウンロードし、エンジンをビルドします。

評価条件： DGX OS 7.6.0、CUDA 13、TensorRT 10.16.1.11、TensorRT Edge-LLM 0.11.1、NVFP4、thinking有効、同時ストリーム1本。DSpark有効時のピーク総メモリはOS込み27.9GBでした。料金： ローカル推論APIの独立したトークン単価はなく、ハードウェア・運用費とモデルのライセンス確認が必要です。利用条件： NVIDIA対応環境が必要で、MacBook Air等のCPUだけで同じ性能が得られるという意味ではありません。

一次情報： NVIDIA公式技術記事

↑ 今日の5件に戻る

4. 【日本】Kiro CLIの自律開発を1か月検証 — 資格情報・差分・マージの境界設計

記事公開：2026年10月30日｜国内開発者の寄稿事例

AWS日本語ブログで、BrightFlowの開発者がKiro CLIを実装担当とする自作BRIDGEの約1か月の運用を報告しました。計画とレビューを行う外部AIと、実際にコードを変更するKiro CLIを分離します。新しいKiro製品の発表ではなく、権限と実行結果を検証する実践的な構成です。

なぜ重要か

AIに「このファイルだけ変更して」と指示しても、それだけで制限は保証されません。資格情報を渡さない、操作を固定する、実差分を検証する、マージするコミットを固定するという境界を、実行基盤で強制する考え方が重要です。

開発者向け：API・実装・評価

運用実績： 2026年9月11日〜10月12日にPR624件、マージ317件（約51%）。未マージPRの多くは差分なし・疎通確認用など、そもそもマージが不要なものでした。これは特定チームの運用ログであり、開発品質の一般的な比較ベンチマークではありません。

API： 独自MCP、Kiro CLI、GitHub API。料金： BRIDGE自体の定価はなく、関連サービスと実行基盤の費用は別途。利用条件： 記事は寄稿者の環境を示すもので、AWSが推奨する標準構成ではありません。2026年10月時点のKiro標準Permissions・Workflows等で代替できる部分も明記されています。

一次情報： AWS日本語ブログの実運用報告

↑ 今日の5件に戻る

5. NVIDIA、Dynamo推論基盤をKubernetesで再現するAICR Recipeを解説

記事公開：2026年10月30日｜分散LLM推論の実装ガイド

NVIDIAは、AI Cluster Runtime（AICR）の検証済みRecipeを使ってDynamoの分散推論環境をKubernetesに展開する方法を公開しました。モデルサーバーだけでなく、GPUドライバー、GPUの割当て、gang scheduling、ノード監視、Gateway APIなどの構成要素を整合させます。

なぜ重要か

LLMの本番運用では、モデルが起動するだけでは不十分です。KV-cacheの再利用、ワーカー配置、リクエスト経路、障害検知まで含めた再現性が、長い会話やAgentic Workflowの応答時間と運用安定性に影響します。

開発者向け：API・構築手順

bashaicr snapshot --namespace aicr-validation --output snapshot.yaml
aicr recipe --snapshot snapshot.yaml --intent inference --platform dynamo --output recipe.yaml
aicr validate --recipe recipe.yaml --snapshot candidate-snapshot.yaml --no-cluster --output dry-run.json

AICRはRecipeに構成要素のバージョン・互換性制約・検証項目を記録します。Kubernetes上でDynamoGraphDeploymentを投入する前に、GPU割当て、スケジューリング、Ingress、監視の適合性を検証できます。性能： KV-cache-aware routingによる再計算削減の仕組みは説明されていますが、あらゆる構成での速度向上率は未公表です。

互換性の注意： 記事で固定されるDynamo 1.4.2と、1.5で導入されるネイティブRust EPPは実装が異なります。最新版を無条件に混在させず、Recipeの互換性検証を優先してください。

一次情報： NVIDIA公式技術記事

↑ 今日の5件に戻る