讲师中心 微信公众号
AI工具推荐 视频效率加速

C++如何实现高性能的LRU-K缓存淘汰算法?(数据库缓冲池管理)

胖晨吖_2623

胖晨吖_2623

发布时间:2026-03-09 13:12:12

|

552人浏览过

|

来源于php中文网

原创

标准std::list + std::unordered_map不适用于LRU-K,因其无法高效维护每个key最近K次访问时间戳并按第K次时间排序淘汰;std::list仅支持O(1) LRU-1,而LRU-K需O(K)随机定位与重排,高频场景成瓶颈。

c++如何实现高性能的lru-k缓存淘汰算法?(数据库缓冲池管理)

为什么标准std::list + std::unordered_map不适用于LRU-K

LRU-K要求记录每个key最近K次访问的时间戳,并按第K次访问时间排序淘汰——不是简单维护“最后一次”,而是维护一个访问历史窗口。用std::list只能高效做LRU-1,插入/更新第K次访问时需随机定位、重排节点,平均O(K)甚至O(N),在缓冲池高频读写场景下会成为瓶颈。

真实数据库缓冲池(如PostgreSQL的clock-sweep变种)几乎不用纯LRU-K,因为K≥2时维护成本陡增;但若业务强依赖访问模式识别(比如预判热点区间),仍需折中实现。

  • 别直接复用LRU-1结构:把std::list节点塞K个时间戳进去,会导致每次访问都要shift数组、内存局部性差
  • K值不宜大于4:K=2已能过滤大量瞬时抖动访问;K>4后命中率提升极小,但链表分裂/合并开销翻倍
  • 必须分离“访问记录”和“数据存储”:热数据实体(如page buffer)不能和访问时间戳耦合,否则缓存驱逐时无法原子释放资源

如何用双哈希表 + 定长环形缓冲区实现O(1)更新

核心是把“第K次访问时间”变成可推导值:对每个key,只存最近K次访问的tick(单调递增计数器),用环形数组+游标管理,新访问覆盖最老一次;第K次访问时间就是环形数组尾部前K-1位的值。

示例结构:

立即学习“C++免费学习笔记(深入)”;

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载
struct LruKEntry {
    uint64_t access_ticks[4]; // K=4,固定大小
    size_t cursor = 0;        // 下次写入位置
    bool full = false;        // 是否填满过
};
std::unordered_map<Key, LruKEntry> history_;
std::unordered_map<Key, Value*> data_;
  • 每次get():更新history_[key]的环形数组,不挪动节点,O(1)
  • 淘汰候选计算:只在需要驱逐时,对候选key集合批量算access_ticks[(cursor - K + 1) % K],避免实时维护全局有序队列
  • 注意cursor溢出:用uint64_t当tick,但环形数组索引必须用size_t并取模,否则负数取模行为不一致

淘汰时如何避免全量扫描?用分段热度桶做粗筛

数据库缓冲池常驻数万页,每轮淘汰若遍历全部history_,延迟不可控。实际做法是把key按“第K次访问距今ticks”映射到热度桶(如0–100ms、100–500ms…),只扫最冷的1–2个桶。

关键点:

  • 桶不是精确时间分区,而是用(now - kth_tick) >> shift做快速散列,shift取6–8(对应64–256ms粒度)
  • 淘汰线程定期(如每100次insert后)触发桶重组:把过期桶里的key移到新桶,避免桶内数据永久滞留
  • 绝不依赖std::priority_queue:它底层是vector,每次pop后堆重建O(log N),且无法删除中间元素
  • 如果使用mmap文件页作value存储,淘汰时必须先msync(MS_SYNC)再munmap,否则脏页丢失

与生产级缓冲池(如SQLite Pcache)的关键差异点

SQLite的Pcache用clock算法+LRU辅助链表,本质是近似LRU-K的轻量实现:它不存K次时间戳,而用单比特“被访问过”标记+两次扫描周期来模拟K=2效果。C++手写LRU-K真正难的不是逻辑,而是和底层IO协同。

  • 缓存项析构必须异步:Value*指向的buffer可能正被另一个线程read(),需用引用计数+RCU式延迟回收
  • 不要在get()里做磁盘IO:用户调用get()期望O(1),加载缺失页应走单独prefetch()通道
  • 警惕虚假共享:LruKEntry若和其他热字段同cache line,频繁更新cursor会导致多核间line bouncing

真正卡性能的往往不是算法复杂度,而是tick计数器的获取方式——别用std::chrono::steady_clock::now(),改用__rdtsc()或clock_gettime(CLOCK_MONOTONIC_COARSE),否则单次get耗时从20ns飙到300ns。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

6047

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2568

2023.08.10

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

4318

2023.08.10

页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

6156

2023.08.14

postgresql常用命令
postgresql常用命令

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、l、c、dt、d table_name、du、i file_name、e和q等。本专题为大家提供postgresql相关的文章、下载、课程内容,供大家免费下载体验。

233

2023.10.10

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4609

2023.11.02

postgresql常用命令有哪些
postgresql常用命令有哪些

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、l、c、dt、d table_name、du、i file_name、e和q等。更详细的postgresql常用命令,大家可以访问下面的文章。

647

2023.11.16

postgresql常用命令介绍
postgresql常用命令介绍

postgresql常用命令有l、d、d5、di、ds、dv、df、dn、db、dg、dp、c、pset、show search_path、ALTER TABLE、INSERT INTO、UPDATE、DELETE FROM、SELECT等。想了解更多postgresql的相关内容,可以阅读本专题下面的文章。

1396

2023.11.20

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

20

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn