LRU-2不能直接用std::list实现淘汰排序,因为其淘汰依据是第二次访问时间,需动态重排且list不支持O(1)重定位或按字段排序;正确做法是用unordered_map存元信息、set按prev_access升序维护候选集,并严格同步erase/insert。

为什么不能直接用 std::list 做 LRU-2 的淘汰排序
因为 LRU-2 淘汰依据是「第二次访问时间」,而这个值每次 get() 都会变;std::list 无法在 O(1) 时间内重排节点位置,硬塞进去会导致淘汰逻辑退化成 O(n) 扫描。更糟的是,你没法只靠链表位置判断哪个项该被淘汰——它不存 prev_access,也不支持按字段动态排序。
正确做法是用 std::unordered_map 存键和完整元信息(含 value、last_access、prev_access),再用 std::set 维护可淘汰候选集,排序规则为 prev_access 升序(相同则按 key 升序防重复)。每次访问 key 后,必须先 erase 旧记录、再 insert 新记录,否则 std::set 里全是 stale entry。
cache1 和 cache2 各自存什么、怎么分工
LRU-2 不是单层缓存,而是两级观察+响应结构:
-
cache1:主缓存层,存key → {value, expiry_time, last_access, prev_access},用std::unordered_map+ 手动维护的std::list(仅用于快速移动命中项到头部) -
cache2:观察层,只存key → {access_count, expiry_time},不存value,作用是“记两次才进 cache1”,避免偶发访问污染主缓存
所有时间戳统一用 std::chrono::steady_clock::time_point,别用 system_clock——时钟回拨会导致大量误删。
立即学习“C++免费学习笔记(深入)”;
get() 必须按固定顺序处理三件事
一次 get() 调用不是查完就完,它要串行完成三项动作,顺序错一点就会漏过期或误晋升:
- 先查
cache1:命中则更新last_access和prev_access,检查expiry_time是否已过;过期就erase并返回std::nullopt - 未命中则查
cache2:存在且access_count == 1,就 ++;若变成 2,立刻从cache2移出,构造新 entry 插入cache1(带当前value和新expiry_time) - 最后调
prune_expired(),但只扫描cache2最近 50 个项——全扫太重,惰性清理更稳
特别注意:清理必须放在查完之后。如果先清再查,刚被访问的过期项可能被删掉,导致本该晋升的 key 永远进不了 cache1。
insert() 时 cache2 膨胀怎么控
cache2 不设上限就是内存黑洞。但它又不能像 cache1 那样严格 LRU——它没存访问顺序,只存频次和过期时间。
推荐做法:
- 设硬上限(比如 10000),插入前先检查
cache2.size() > threshold - 超了就遍历一次,用
std::uniform_int_distribution随机剔除约 10% 的项(不是删最旧,因为没存访问时间) - 如果 key 已在
cache2中,只更新access_count和expiry_time,不增加 size
真正容易被忽略的点是:cache2 的清理不能依赖定时器线程——它和 get()/put() 共享同一把锁,异步清理会引入竞态;所有过期清理都得走惰性路径,在业务调用中顺手做。


















