讲师中心 微信公众号

工具推荐

视频效率加速
剧云
剧云

中文短剧剧本制作平台

AniShort
AniShort

AI短剧协同制作平台

Seko
Seko

AI短剧一键生成成片

updream

一键生成高质量推广成片

C++如何实现线程安全的LRU缓存?(读写锁保护)

小伟同学_8162

小伟同学_8162

发布时间:2026-02-26 11:47:02

|

727人浏览过

|

来源于php中文网

原创

使用 std::shared_mutex 保护 LRU 缓存可提升读多写少场景吞吐,get() 用 shared_lock 仅读查,未命中时释放后以 unique_lock 写入;须用 splice() 维持 list 迭代器有效,并先取尾节点 key 再删哈希表与 list。

c++如何实现线程安全的lru缓存?(读写锁保护)

用 std::shared_mutex 保护读多写少的 LRU 缓存

LRU 缓存天然适合读多写少场景,std::shared_mutex(C++17 起)能让你的 get() 并发执行、put() 独占操作,比全用 std::mutex 吞吐高得多。别用 std::shared_timed_mutex——它在多数标准库实现里性能更差,且已被 C++20 标记为 deprecated。

常见错误是把整个 get() 逻辑包进 shared_lock:比如查不到就去构造值再写入——这会触发写操作,但 shared_lock 不允许写,结果要么死锁,要么编译失败。正确做法是:只用 shared_lock 做“查+返回”,写操作必须升为 unique_lock。

  • get() 开头用 std::shared_lock<:shared_mutex></:shared_mutex>,仅读 m_cache 和 m_lru_order
  • 查不到时立刻释放 shared_lock,再用 std::unique_lock<:shared_mutex></:shared_mutex> 重试并写入
  • 避免在锁内调用可能阻塞或抛异常的用户代码(如网络 IO、构造耗时对象)

list 迭代器失效?别直接存 std::list::iterator 到哈希表

LRU 的核心是快速移动节点到头部,常用 std::list 存键值对,哈希表(std::unordered_map)存键 → 迭代器映射。但 std::list 迭代器在 list 本身不被销毁的前提下是稳定的——这点没错,可一旦你用 splice() 把节点从中间移到头部,迭代器依然有效;但若用 erase() + push_front(),旧迭代器就失效了。

所以必须用 splice(),而不是删再插:

立即学习“C++免费学习笔记(深入)”;

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载
auto it = m_lru_order.begin();
m_lru_order.splice(m_lru_order.begin(), m_lru_order, it); // ✅ 安全,it 仍有效
  • 哈希表 value 类型应为 std::list<node>::iterator</node>,不是指针或索引
  • 每次 get() 后必须 splice() 到 front,不能只改哈希表里的值
  • 注意 splice() 第一个参数是目标位置,第二个是源 list,第三个是源迭代器——顺序错会导致静默错误

容量超限时,erase() 必须和 pop_back() 配合使用

缓存满时要踢掉最久未用项(m_lru_order.back()),但只删 list 不够:你还得从哈希表里同步删除对应键。漏删会导致哈希表持续膨胀,甚至后续 get() 查到已失效的迭代器,解引用崩溃。

典型错误是先 pop_back() 再从哈希表里找 key 删除——但 list 节点已丢,你根本拿不到它的 key。正确顺序是:从 list 尾部取节点 → 提取 key → 删哈希表 → 再删 list 节点。

  • 不要依赖 list.back().key —— 如果 Node 是 std::pair<k v></k>,那没问题;但若封装成结构体,确保 key 可访问
  • 删哈希表用 erase(key),别用 erase(iterator)——后者需要先 find,多一次哈希查找
  • 如果 Node 析构代价高(如含大 buffer),考虑在 erase 前显式 move 出 value,避免析构延迟

为什么不用 std::shared_mutex 的 try_* 版本?

有人想用 try_shared_lock 避免 get() 阻塞,但实际收益极小:shared_lock 几乎不争抢(除非正有 put 在写),而 try 版本要额外检查返回值、处理失败重试逻辑,反而增加分支预测失败概率和代码复杂度。

真正该加 try 的地方是写操作中的“先读后写”竞争:比如 put() 检查是否已存在,若存在则更新值而非插入。这时可以用 try_unique_lock 配合短超时,避免长等;但大多数业务场景下,直接阻塞更简单可靠。

  • 99% 的 LRU 使用场景里,shared_lock 不会成为瓶颈,别过早优化
  • try_* 适合有明确 SLA 要求的实时系统,普通服务用默认阻塞语义更稳
  • 注意:Windows 上 MSVC 的 std::shared_mutex 实现曾有性能问题,Clang/GCC 更成熟;若需跨平台且用旧 Windows,考虑封装一层 spin-based fallback

最难缠的不是锁怎么加,而是节点生命周期和迭代器有效性混在一起——稍不注意,splice() 没做对,或者删 list 和删 map 顺序颠倒,core dump 就在下一秒。

热门AI工具

更多
火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

函子Zion

一款支持AI搭建、可视化编辑和多端发布的全栈无代码开发平台。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

5474

2025.06.09

golang结构体方法
golang结构体方法

本专题整合了golang结构体相关内容,请阅读专题下面的文章了解更多。

5631

2025.07.04

C++ 智能指针与现代内存管理
C++ 智能指针与现代内存管理

深入讲解 C++ 现代内存管理的核心工具——智能指针,涵盖 unique_ptr 独占所有权语义、shared_ptr 引用计数机制与循环引用问题、weak_ptr 弱引用的应用场景、make_unique/make_shared 工厂函数的性能优势、自定义删除器的编写、RAII 资源管理思想的实践,以及从裸指针迁移到智能指针的重构策略,帮助开发者编写安全无泄漏的现代 C++ 代码。

399

2026.04.23

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

4878

2023.08.10

golang map内存释放
golang map内存释放

本专题整合了golang map内存相关教程,阅读专题下面的文章了解更多相关内容。

750

2025.09.05

golang map相关教程
golang map相关教程

本专题整合了golang map相关教程,阅读专题下面的文章了解更多详细内容。

343

2025.11.16

golang map原理
golang map原理

本专题整合了golang map相关内容,阅读专题下面的文章了解更多详细内容。

553

2025.11.17

java判断map相关教程
java判断map相关教程

本专题整合了java判断map相关教程,阅读专题下面的文章了解更多详细内容。

323

2025.11.27

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

40

2026.11.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn