Skip to content
Berktug Berke Ates
Berktug Berke Ates

ソフトウェアエンジニア

ブログ

パーソナライズAI UIのキャッシュ無効化

· 7分で読める

パーソナライズAIサーフェスは速度のため埋め込み・補完・UI断片をキャッシュし—誤ったユーザーに誤った答えを出します。無効化はTTLだけでなく、身元・権利・プロンプト版を追跡しなければなりません。

パーソナライズはTTLを不十分にする

汎用ページキャッシュは時間で期限切れになります。パーソナライズAI UIはユーザー、役割、プラン、フィーチャーフラグ、取得文書、プロンプト版が変わると期限切れになります—時計が新鮮と言っても。ルートのみをキーにした60秒TTLでも別テナントの補完を漏らしたり、取り消された権利を見せたりできます。

何をキャッシュするか名付けてください:生モデル出力、レンダリング済みmarkdown、サイドバー用埋め込みベクトル、エッジHTMLシェル。層ごとにキーとバスト戦略が違います。

権限を符号化するキーを設計する

キャッシュキーにテナントID、ユーザーまたはセッション範囲、権利ハッシュ、コンテンツ/プロンプト改訂を含めます。PII連結より不透明ハッシュを好みます。セマンティックキャッシュではテナントスコープの名前空間を必須にし、似た質問が組織をまたいで当たらないようにします。

権限やプラン変更時は影響を受けた身元向けに無効化をブロードキャストします—艦隊をスラッシュするグローバルフラッシュではなく。ソフト削除ユーザーが猶予期間中に温エントリにまだ当たれるかを文書化します。

  • テナント、身元範囲、権利ハッシュ、プロンプト/コンテンツ改訂でキー付け
  • セマンティックキャッシュをテナントごとに名前空間化;類似度インデックスを組織間で共有しない
  • 書き込みタイムスタンプだけでなく認可・プランイベントでバスト
  • クロステナントキー衝突とリリース後の予期せぬヒット率にアラート

ストリーミングとパーシャルがバストを難しくする

AI UIはしばしばトークンを、CDNやサービスワーカーからもハイドレートするクライアントへストリームします。パーシャルストリームをキャッシュ可能にするかを決めます。完了回答のみキャッシュするなら、途中キャンセルとツール呼び出し改訂が半真実を保存しない方法を文書化します。

Stale-while-revalidateは権利取り消しを1リクエスト周期隠せます。課金・医療・法務など高リスク面では描画前の明示的再検証を好みます。

本番で分離を証明する

キー推測と類似検索で別テナントのキャッシュ補完を取ろうとするカナリアを追加します。権限システムデプロイ後のヒット率の崖を監視します。AI UIのキャッシュバグはUXの不具合ではなくプライバシー事故です。

速度は重要ですが正しいパーソナライズがプロダクトです。無効化ポリシーはプロンプトと同じ設計レビューに属します。


2026年9月16日、Berktug Berke Ates が公開。