共有LLMゲートウェイのコスト帰属
· 7分で読める
コスト帰属のない共有LLMゲートウェイはブラックホールになります。チームはプロンプトを局所最適化し、財務は不透明な一枚の請求書を見ます。各トークンをテナント・製品・呼び出し元にタグ付けしてください—さもなくば課金・スロットル・支出デバッグはできません。
タグなしトラフィックはオーナー不在の支出
共有ゲートウェイは認証、モデルルーティング、リトライ、安全フィルタを中央化して価値を生みます。利用が製品サーフェスへ戻る結合キーなしの一枚のプロバイダ請求に落ちると失敗します。テナントID、ワークスペース、フィーチャーフラグ、呼び出しサービス、モデル層などのリクエスト級タグがなければ、どのプロンプトが予算を燃やしたか、回帰が完了トークンを倍にしたかを答えられません。
帰属をBIの後付けではなくゲートウェイ契約として扱ってください。非本番では必須メタデータ欠落の呼び出しを拒否または隔離し、本番でもデフォルトタグはチャージバックとインシデント対応に十分な明確さを保つ必要があります。
トークンを計測し、ドルで価格付けし、両方を突合する
プロバイダはトークン、キャッシュトークン、ツール呼び出し、時には画像や音声単位で請求します。ゲートウェイは正規化した利用イベントを出すべきです：入出力/キャッシュトークン、モデルID、レイテンシ級、応答がセマンティックキャッシュ由来かどうか。リスト価格が変わっても履歴レポートが監査可能になるよう、版管理した価格表でドル換算します。
複数モデル呼び出しにファンアウトするエージェントは、子コストを親セッションにまとめる correlation id が必要です。なければ製品ダッシュボードはエージェントワークフローを過小、葉マイクロサービスを過大に数えます。
- 認証済みリクエストごとにテナント・製品・呼び出し元タグを必須にする
- モデル、トークン分割、キャッシュヒット、correlation id 付き利用イベントを出す
- プロバイダ料金変更後もドルレポートが耐えるよう価格表を版管理する
- テナントごとにソフトクォータとハードキャップを明確な429意味論で公開する
チームが実際に動けるチャージバック
財務向け月次ロールアップは必要だが不十分です。エンジニアリングは temperature 低下、コンテキスト短縮、ティア切替のため機能・モデル別の日次支出が要ります。製品は価格設定とフェアユースのためテナント別燃焼率が要ります。同じ利用ストリームから両ビューを公開してください。
セマンティックキャッシュヒットとプロンプトキャッシュ割引を明示的にクレジットします。節約を隠すとチームはキャッシュキー投資を止め、過大クレジットすると財務がモデルに異議を唱えます。共有プラットフォームオーバーヘッドとテナント駆動トラフィックの支払い責任を文書化してください。
予算とアラートでループを閉じる
執行のない帰属はレポートに過ぎません。予算をゲートウェイポリシーに配線します：70%で警告、90%で非クリティカルルートをスロットル、暴走ファンアウトでオーナーをページ。コストアラートを品質指標と対にし、数字合わせで回答を静かに劣化させないようにします。
共有LLMゲートウェイは社内プロダクトです。コスト帰属は可用性・レイテンシと同じくSLAの一部です。
2026年9月14日、Berktug Berke Ates が公開。