讲师中心 微信公众号
AI工具推荐 视频效率加速

C++如何设计高性能的LRU缓存策略?(内存淘汰机制实现)

落伟小哥_3191

落伟小哥_3191

发布时间:2026-03-08 12:46:03

|

802人浏览过

|

来源于php中文网

原创

std::list + std::unordered_map 是主流选择,因 list 支持 O(1) splice/erase 且迭代器稳定,unordered_map 提供 O(1) key→iterator 查找;其他容器易导致迭代器失效或复杂度上升。

c++如何设计高性能的lru缓存策略?(内存淘汰机制实现)

为什么 std::list + std::unordered_map 是主流选择

因为 LRU 的核心操作是「频繁移动节点到头部」和「O(1) 查找+删除尾部」,std::list 提供稳定的迭代器和 O(1) 的 splice/erase,std::unordered_map 提供 O(1) 的 key→node 指针映射。用 std::vector 或 std::deque 会导致移动元素时迭代器失效或复杂度升至 O(N);手写链表容易在 erase 后悬空指针。

实操建议:

立即学习“C++免费学习笔记(深入)”;

  • 用 std::list<std::pair<Key, Value>> 存数据,避免拷贝——把 Value 改成 std::unique_ptr<Value> 或 std::shared_ptr<Value>,尤其当 Value 大于 16 字节时
  • std::unordered_map<Key, std::list<...>::iterator> 的 value 类型必须是迭代器(不是指针),否则 splice 无法跨容器移动
  • 别在 get() 里先 erase 再 push_front:这会触发两次内存分配;直接用 splice(list.begin(), list, it->second)

如何避免迭代器失效导致的段错误

最常见坑是:在 put() 中插入新项后,旧的 map[key] 迭代器仍指向已被 erase 的节点,后续再解引用就崩。根本原因是 std::list::erase() 会使被删节点的迭代器立即失效,且不自动从 map 中清理。

实操建议:

立即学习“C++免费学习笔记(深入)”;

  • 每次 erase 前,先用 map.erase(key) 清掉映射——顺序不能反,否则 erase 后 map 里还存着野迭代器
  • 如果支持重复 put()(即更新值),别直接 map[key] = list.begin():这会触发默认构造+赋值,可能抛异常;改用 map.insert_or_assign(key, list.begin())(C++17)
  • 调试时加断言:assert(it != list.end() && map.count(key)); 在 get/put 开头检查

size_t 容量限制与内存碎片风险

LRU 缓存若不限制总字节数(只限 item 数量),实际内存可能远超预期——比如缓存 1000 个 std::string,每个平均 2KB,就占了 2MB;而一个 std::string 小于 23 字节时走 SSO,不分配堆内存,但超过后每次 new 都有 malloc 开销和碎片。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

实操建议:

立即学习“C++免费学习笔记(深入)”;

  • 不要只用 size() 判断容量,加一个运行时累加的 total_bytes_ 成员,在 put() 插入前检查是否超限
  • 对 Value 类型提供 size_bytes() 接口(可为模板特化),而不是粗暴调用 sizeof(Value)——后者对含指针的类型完全没意义
  • 避免在缓存中存裸 char* 或 std::vector<uint8_t>:它们的 size 不等于实际内存占用;优先用 std::string_view + 外部生命周期管理,或封装带 capacity 记录的 buffer 类

多线程下 get/put 的最小锁粒度

用全局 std::mutex 最简单,但会成为性能瓶颈——尤其读多写少场景下,所有 get() 都要抢同一把锁。而细粒度锁(如分段锁)又难保 LRU 顺序语义:两个线程同时 get() 同一个 key,可能一个刚 move 到头部,另一个又把它移回去。

实操建议:

立即学习“C++免费学习笔记(深入)”;

  • 读操作(get())本身无副作用,但「移动到头部」有——所以不能无锁读;但可以用 std::shared_mutex(C++17),读用 lock_shared(),写用 lock()
  • 别给 std::list 和 std::unordered_map 分开加锁:它们的操作必须原子,否则 map 迭代器和 list 节点状态会不一致
  • 如果业务允许弱一致性(比如容忍短暂 miss),可考虑 RCU 风格:读路径无锁,写路径 copy-on-write 整个结构——但实现成本高,一般项目没必要

真正难的是容量淘汰时的原子性:evict 一个节点要同时从 list 删、从 map 删、释放 value 内存,这三步必须在一个锁区内完成,漏掉任何一步都会泄漏或崩溃。很多开源实现在这里栽过跟头。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

6519

2023.08.02

counta和count的区别
counta和count的区别

Count函数用于计算指定范围内数字的个数,而CountA函数用于计算指定范围内非空单元格的个数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

3268

2023.11.20

C++ 智能指针与现代内存管理
C++ 智能指针与现代内存管理

深入讲解 C++ 现代内存管理的核心工具——智能指针,涵盖 unique_ptr 独占所有权语义、shared_ptr 引用计数机制与循环引用问题、weak_ptr 弱引用的应用场景、make_unique/make_shared 工厂函数的性能优势、自定义删除器的编写、RAII 资源管理思想的实践,以及从裸指针迁移到智能指针的重构策略,帮助开发者编写安全无泄漏的现代 C++ 代码。

359

2026.04.23

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

3168

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

4969

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

3789

2025.12.29

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

466

2026.01.19

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

5987

2023.07.18

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn