Kişiselleştirilmiş AI UI'lar için Cache Invalidation

Kişiselleştirme TTL'yi yetersiz kılar

Genel sayfa cache'leri zamana göre expire olur. Kişiselleştirilmiş AI UI'lar kullanıcı, rol, plan, feature flag, retrieve edilen doküman veya prompt sürümü değişince expire olur—saat girişi taze dese bile. Yalnızca route'a key'lenen 60 saniyelik TTL başka tenant'ın completion'ını sızdırabilir veya iptal edilmiş entitlement gösterebilir.

Ne cache'lediğinizi adlandırın: ham model çıktısı, render markdown, kenar çubuğu embedding'leri veya edge HTML kabukları. Her katmanın farklı anahtarı ve bust stratejisi vardır.

Yetkiyi kodlayan anahtarlar tasarlayın

Cache anahtarlarına tenant id, kullanıcı veya oturum kapsamı, entitlement hash'i ve içerik/prompt revizyonunu ekleyin. PII birleştirmek yerine opak hash tercih edin. Semantic cache'ler için tenant-scoped namespace zorunlu tutun ki benzer sorular organizasyonlar arası asla isabet etmesin.

İzin veya plan değişiminde etkilenen kimlik için invalidation yayınlayın—filoyu thrash eden global flush değil. Soft-delete kullanıcıların grace döneminde warm entry'ye hâlâ isabet edip edemeyeceğini belgelendirin.

• Tenant, kimlik kapsamı, entitlement hash ve prompt/içerik revizyonuna key'leyin
• Semantic cache'leri tenant başına namespace'leyin; org'lar arası similarity index paylaşmayın
• Yalnızca yazma zaman damgasında değil, authz ve plan olaylarında bust edin
• Çapraz-tenant key çarpışması ve release sonrası beklenmeyen hit rate için alarm kurun

Streaming ve partial'lar bust'ı zorlaştırır

AI UI'lar sıkça token'ları, CDN veya service worker'dan hydrate olan bir client'a stream eder. Partial stream'lerin hiç cache'lenip cache'lenmeyeceğine karar verin. Yalnızca tamamlanmış yanıtları cache'liyorsanız, mid-stream iptallerin ve tool-call revizyonlarının yarım gerçekleri saklamasını nasıl engellediğinizi belgelendirin.

Stale-while-revalidate entitlement iptalini bir istek döngüsü gizleyebilir. Faturalama, tıbbi, hukuki gibi yüksek riskli yüzeylerde render öncesi açık revalidation tercih edin.

İzolasyonu production'da kanıtlayın

Başka tenant'ın cache'li completion'ını key tahmini ve similarity aramasıyla çekmeyi deneyen canary kontrolleri ekleyin. İzin sistemi deploy'larından sonra hit-rate uçurumlarını izleyin. AI UI'lardaki cache bug'ları UX aksaklığı değil, gizlilik olayıdır.

Hız önemlidir ama doğru kişiselleştirme üründür. Invalidation politikası prompt ile aynı tasarım incelemesine aittir.

• MDN — HTTP caching
• Vercel — Caching
• Cloudflare — Cache purge