Amazon Bedrock AgentCore GatewayのBudget制御を境界値・並列実行で検証する

AWS Bedrockという生成AI向けクラウドサービスには、ユーザーごとに月次・日次の予算上限（Budget）を設ける機能がある。利用額がBudgetを超えると、以降のリクエストは403エラーで返される。一見すると「設定した額を絶対に超えない仕組み」に見える。だが実装を深掘りするとそうではない。予算判定はリクエスト到着時にDynamoDBの現在値をチェックして行われるが、実際のコスト加算はモデルからレスポンスが返った後だ。この間のズレが問題になる。

ある検証では、Budgetとの差がわずか0.000001ドルという状態からリクエストを送った。リクエスト時点ではBudgetに余裕があったので許可されたが、モデル実行後のコスト加算で0.0091ドルかかり、その時点でBudgetを大幅に超過した。つまり、1回のリクエストで予算上限を吹き飛ばせるわけだ。特に複数のリクエストを並列で送った場合、複数のリクエストが同時に予算判定を通過する可能性もある。この「事前チェック＋事後請求」という非同期の構造は、クラウドサービスの実装都合だが、利用側がそれを知らないと「予算制限は完全に効く」と誤解しやすい。

中小企業がAIサービスを導入するときは、ベンダーの予算機能を「絶対の歯止め」と考えず、アプリケーション側で明示的に残額管理をする必要がある。特に自動化やバッチ処理で複数リクエストを並列実行する場合は、1回のリクエストで予算を超過する可能性を前提に設計する。API呼び出しの前に残額をチェックし、1回の推論コスト推定値を引いた余裕で実行を判断するといった、多段の防御が要る。クラウドAIサービスの価値は実行速度と柔軟性だが、その代わり「完全な予算上限」は保証していない仕組みになっていることを認識しておくべきだ。