技术 · 前沿动态
端云协同的缓存分层怎么切
哪些结果留在端上,哪些回云端取,取决于命中率与新鲜度的平衡。
两层各自适合
端上缓存响应快,适合高频且变化慢的结果;云端适合需要全局一致的查询。
分层不清会让同一份数据两处不一致,排查成本很高。 遇到异常再回头查这一步。
命中率怎么估
用真实请求分布统计命中率,长尾请求占比高的场景,端上收益有限。
把缓存键设计得过于精细,命中率会掉,过粗则容易读到旧数据。
失效策略
按时间失效简单,但高峰期容易同时过期,造成回源尖峰。
加随机抖动能把过期时间打散,回源压力更平滑。 可以先从一两处改起。
一致性处理
端上数据变更时先写云端再广播失效,避免读到中间状态。
对强一致要求高的操作直接绕过缓存,别为省一点延迟牺牲正确性。
观测与调优
记录命中率、回源量与端上存储占用,三条曲线一起看才准确。
端上存储有上限,低价值条目要能被主动淘汰,否则会挤掉热数据。
读者留言
共 4 条 · 精选展示过期时间加抖动,避免回源尖峰,这个做法好。
端上存储有上限,淘汰策略确实必要。
强一致操作绕过缓存,别为延迟牺牲正确性。
三条曲线一起看,比单看命中率准。