2. AWS、Kimi K3のインド国内限定推論を提供 — データ所在地を推論プロファイルで制御
公式公開:11月3日。 新モデルの初発表ではなく、既存Kimi K3の地理的な推論処理先を制限する新しい選択肢です。
なぜ重要か
個人情報・規制データを扱うアプリでは、APIの呼び出し元だけでなく実際に推論するリージョンが重要です。
API・実装
pythonfrom aws_bedrock_token_generator import provide_token
from openai import OpenAI
region = "ap-south-1"
client = OpenAI(
base_url=f"https://bedrock-runtime.{region}.amazonaws.com/openai/v1",
api_key=provide_token(region=region),
)
response = client.chat.completions.create(
model="in.moonshotai.kimi-k3",
messages=[{"role":"user","content":"この文書を要約して"}],
max_completion_tokens=2048,
)| 項目 | 公式情報 |
|---|---|
| インド限定 | in.moonshotai.kimi-k3 |
| グローバル | global.moonshotai.kimi-k3 |
| API | Chat Completions、Responses、Converse、InvokeModel |
| 文書 | 画像、PDF、構造化JSON抽出 |
| キャッシュ | 暗黙的・明示的なプロンプトキャッシュ |
| 料金 | トークン課金、Flex tierは標準の50%引き。正確なUSD単価は料金表で確認 |
| 評価 | Ultrahumanの自社事例では費用80%減・複数ターン85%高速化。評価条件は顧客固有 |
注意: ログ・メトリクスは呼び出し元リージョンに保存されます。処理先の制限とログ保存先の設計を分けて確認してください。
要点: AWSは11月3日、Bedrock上のKimi K3でムンバイとハイデラバードだけを処理先にするIndia geographic inferenceを紹介した。 推論プロファイルin.moonshotai.kimi-k3を指定すれば、インド国外への推論処理を避けられる。 OpenAI互換Chat Completions/Responsesに加えConverse/InvokeModelに対応し、画像文書の抽出や構造化出力も扱える。
一次情報: Amazon Web Services公式記事