LRU Cache、TTL Cache、 LFU Cache的定义以及使用场景

缓存是提升系统性能的核心机制之一，通过减少重复计算或数据访问来优化响应速度。以下是三种常见缓存淘汰策略的核心原理与适用场景的深度分析：

1. LRU Cache（最近最少使用缓存）

核心原理

• 淘汰策略：当缓存空间不足时，优先淘汰最近最少使用的数据项。
• 实现方式：通常通过双向链表+哈希表实现：
  • 链表按访问时间排序（最新访问的项移动到链表头部）。
  • 哈希表存储键值对，支持O(1)时间复杂度的查找。
• 适用场景：
  • 热点数据集中：如用户访问的热门文章、商品推荐等，数据访问存在局部性原理（即近期访问的数据更可能被再次访问）。
  • 内存敏感型系统：需要严格控制缓存占用，例如嵌入式设备、内存受限的微服务。
  • 缓存大小动态变化：无需预先设定数据优先级，完全由访问模式决定。

示例

• 浏览器缓存：用户最近浏览的网页会被优先保留。
• Redis的maxmemory-policy：可通过volatile-lru或allkeys-lru策略实现。
• 数据库查询缓存：高频SQL查询结果会被保留。

2. TTL Cache（带过期时间的缓存）

核心原理

• 淘汰策略：每个缓存项设置生存时间（TTL），到期后自动失效，无论是否被访问。
• 实现方式：
  • 每个缓存项附加一个时间戳或定时器。
  • 定期扫描或惰性删除（访问时检查是否过期）。
• 适用场景：
  • 临时性数据：如验证码、一次性令牌、会话数据（需严格时效性）。
  • 避免数据不一致：当底层数据可能被外部修改时（如第三方API响应、爬虫数据）。
  • 防缓存雪崩：通过随机化TTL（如10-20分钟），避免大量缓存同时过期。

示例

• Session存储：用户登录后生成的Token通常设置30分钟TTL。
• 验证码服务：短信验证码的有效期（如5分钟）。
• 实时数据缓存：股票行情、天气数据等需定期刷新的场景。

3. LFU Cache（最不频繁使用缓存）

核心原理

• 淘汰策略：当缓存空间不足时，优先淘汰访问频率最低的数据项。
• 实现方式：
  • 为每个缓存项维护一个访问计数器。
  • 淘汰时选择计数器最小的项（或结合LRU，淘汰访问次数最少且最久未使用的项）。
• 适用场景：
  • 访问模式稳定：数据访问频率差异显著，但无明显的局部性（如某些配置项、静态资源）。
  • 长尾效应明显：少数高频数据占用了大部分访问，但仍有大量低频数据需要缓存。
  • 避免缓存污染：防止偶然的热点数据长期占用缓存（如突发流量导致的短期热点）。

示例

• CDN内容分发：某些冷门视频偶尔被大量用户点击后，仍可能因低频访问被淘汰。
• 推荐系统：用户兴趣可能随时间变化，低频兴趣项会被优先淘汰。
• Redis的volatile-lfu/allkeys-lfu：Redis 4.0+支持的LFU策略。

策略对比与选择建议

混合策略与扩展

• LRU-K：结合访问次数与时间（如LRU-2要求数据被访问2次才进入缓存）。
• Two-Queue（2Q）：维护两个LRU队列，分别处理新数据和老数据。
• W-TinyLFU：结合LFU的访问计数与Bloom Filter的近似统计，适用于分布式缓存（如Caffeine库）。

实际应用中的注意事项

1. 缓存穿透：对不存在的键也设置空值缓存（带TTL），避免大量请求穿透到数据库。
2. 缓存击穿：对热点数据设置永久缓存+后台刷新，或使用互斥锁保护缓存重建。
3. 缓存雪崩：通过随机化TTL或多级缓存（如本地缓存+分布式缓存）分散过期时间。

总结

• LRU：适合访问模式集中的场景（如用户近期行为）。
• TTL：适合临时性或外部依赖数据（如验证码、API响应）。
• LFU：适合访问频率差异大但模式稳定的场景（如CDN内容）。

根据业务特点选择合适的策略，或结合多种策略（如Redis的volatile-lfu+maxmemory-policy）实现更高效的缓存管理。