讲师中心 微信公众号
AI工具推荐 视频效率加速

C++如何实现高效的线程安全LRU缓存系统

轻静君_7703

轻静君_7703

发布时间:2026-06-17 13:34:27

|

592人浏览过

|

来源于php中文网

原创

不能只用一把 std::mutex 锁住整个 get() 和 put(),否则吞吐量断崖式下降;应使用 std::shared_mutex 区分读写:get() 用 shared_lock 并发,put() 用 unique_lock 排他,并注意 splice() 参数顺序、淘汰顺序、智能指针优化及迭代器有效性。

c++如何实现高效的线程安全lru缓存系统

为什么不能只用一把 std::mutex 锁住整个 get() 和 put()

吞吐量会断崖式下降——所有读请求(get())和写请求(put())串行排队,哪怕并发读多于写,也完全无法利用多核。真实业务中,读占比常超 90%,锁粒度太粗直接让缓存变成瓶颈。

正确做法是区分读写场景:get() 只需查 map + 移动链表节点,全程可并发;put() 涉及插入、淘汰、更新,必须排他。C++17 的 std::shared_mutex 正为此设计:

  • std::shared_lock<:shared_mutex></:shared_mutex> 用于 get():多个线程可同时持有共享锁
  • std::unique_lock<:shared_mutex></:shared_mutex> 用于 put():写操作独占,自动阻塞其他读写

注意:不要在 get() 中提前释放锁再调用 splice() —— splice() 需要访问链表和 map,必须在锁内完成,否则竞态下迭代器可能已被其他线程 erase。

std::list::splice() 参数顺序为什么总写错

常见错误是写成 cache_list_.splice(cache_list_.begin(), it->second),这会触发编译失败或运行时崩溃。因为 splice() 的三参数重载签名是:splice(pos, list, it),含义是「把 it 指向的节点,插入到 pos 之前」,不是「插入到 pos 位置」。

立即学习“C++免费学习笔记(深入)”;

所以要把节点移到头部,必须写成:

cache_list_.splice(cache_list_.begin(), cache_list_, it->second);

漏掉第二个参数 cache_list_,编译器会匹配到单链表版本(forward_list),而 std::list 不支持;写成 cache_list_.splice(cache_list_.begin(), it->second) 则匹配错误重载,行为未定义。

另外:it->second 是 std::list::iterator,不是指针,不能解引用后传 —— splice() 要的就是迭代器本身。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

淘汰尾部节点时,为什么必须先删 unordered_map 再删 list

顺序反了就会留下悬空迭代器:如果先 cache_list_.pop_back(),被删节点的迭代器立即失效,但 cache_map_[key] 还指着它;下次 get(key) 解引用这个迭代器,就是未定义行为(UB),轻则返回垃圾值,重则段错误。

标准做法是:

  • 取尾部节点:auto last = cache_list_.back()
  • 从 map 中擦除:cache_map_.erase(last.first)
  • 再从 list 中移除:cache_list_.pop_back()

这个顺序保证 map 里永远不存指向已销毁节点的迭代器。同理,在 put() 更新已有 key 时,也不能直接赋值 cache_map_[key] = cache_list_.begin() —— 这会触发 unordered_map::operator[] 默认构造旧值再赋值,异常风险高;应改用 cache_map_.insert_or_assign(key, cache_list_.begin())(C++17)。

Value 类型大时,怎么避免拷贝放大开销

如果 V 是 std::string 或自定义大对象,emplace_front(key, value) 会触发一次拷贝(或移动),而 splice() 移动节点时又涉及一次移动 —— 累计开销不可忽视。

更优解是存储智能指针:

  • 用 std::list<:pair std::unique_ptr>>></:pair> 替代 std::list<:pair v>></:pair>
  • map 存迭代器仍不变:std::unordered_map<k std::list>::iterator></k>
  • put() 时直接构造 std::make_unique<v>(std::move(value))</v>,零拷贝入链表

注意:别用 std::shared_ptr —— 引用计数原子操作有额外开销,且破坏 splice() 的 O(1) 保证(需更新控制块);std::unique_ptr 移动无开销,且与 list 完全兼容。

最易被忽略的是迭代器有效性边界:只要没调用 erase() 或 clear(),std::list 迭代器就一直有效;但一旦发生淘汰或清空,所有对应 map 中的迭代器必须同步清除——这点没有编译器检查,全靠逻辑严谨性兜底。

热门AI工具

更多
AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

超级麦吉

一款通过数字员工协作完成调研、数据分析与文档制作的AI办公平台。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
c++和c语言的区别有哪些
c++和c语言的区别有哪些

c++和c语言的区别:1、面向对象编程(OOP)支持不同;2、新增特性不同;3、标准库不同;4、编译方式不同;5、命名空间不同等等。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2268

2024.03.14

c++和python学习顺序推荐
c++和python学习顺序推荐

一般建议先学习C++,再学习Python,因为这样可以逐步从较为底层的编程语言向更高级的语言过渡。想了解更多python的相关内容,可以阅读本专题下面的文章。

1039

2024.03.14

python和c++学习性价比分析
python和c++学习性价比分析

Python易于学习,广泛应用于Web开发、数据科学和人工智能等领域,但性能较低。C语言性能高,适用于对性能要求较高的场景,如游戏开发和系统编程,但学习曲线陡峭,错误处理复杂。想了解更多python的相关内容,可以阅读本专题下面的文章。

447

2024.03.14

c语言和c++一样吗
c语言和c++一样吗

c语言和c++是两种不同的编程语言,虽然有相似之处,但存在显著差异。c语言专注于过程式编程和系统级开发,以简洁、高效著称。c++作为c语言的超集,引入了面向对象编程,增强了代码组织和管理能力,但学习曲线也更陡峭。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

327

2024.03.14

c语言和c++先学哪个好
c语言和c++先学哪个好

初学者选择学习c语言还是c++语言,需要根据个人学习目标、背景以及编程兴趣和预期应用方向来决定。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

426

2024.03.14

c语言和c++的区别和联系
c语言和c++的区别和联系

c语言和c++是计算机科学领域应用广泛的编程语言。虽然它们有着相似的基础,但它们在语言类型、语法功能和内存管理方面存在着显著差异。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

600

2024.03.14

c++软件中文更改教程
c++软件中文更改教程

对于 ide,可通过打开设置,找到语言设置,选择中文,并保存更改。对于非 ide 应用程序,可查找设置或选项,选择语言设置,更改为中文,并保存更改。想了解更多c++的相关内容,可以阅读本专题下面的文章。

1429

2024.03.21

python和java和c++学习性价比分析
python和java和c++学习性价比分析

Python以其易学性、丰富的库和活跃的社区而著称,适合数据科学、人工智能和Web开发。Java以其跨平台性、企业级应用开发和Android应用开发而闻名。C++以其底层控制能力、高效性能和游戏开发而著称。选择哪种语言取决于个人兴趣、职业方向和特定需求。想了解更多python和java和c++的相关内容,可以阅读本专题下面的文章。

1237

2024.03.22

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

100

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn