讲师中心 微信公众号
AI工具推荐 视频效率加速

如何使用Golang实现并发LRU缓存_双向链表与锁的结合

阿婷君_7509

阿婷君_7509

发布时间:2026-02-25 15:55:02

|

574人浏览过

|

来源于php中文网

原创

不能直接用 sync.Map 做 LRU,因其无访问序、不支持 O(1) 节点移动,且超限淘汰需遍历,高并发下性能差;正确做法是用 sync.RWMutex 保护的 map + container/list 组合,以 map 长度为淘汰依据,并配 onEvict 回调释放大对象资源。

如何使用golang实现并发lru缓存_双向链表与锁的结合

为什么不能直接用 sync.Map 做 LRU

因为 sync.Map 不保证访问顺序,也没法在容量超限时自动淘汰最久未用的项。LRU 的核心是「按访问时间排序 + 快速移动节点到头部」,而 sync.Map 是哈希分片结构,没有链表序,也不支持 O(1) 的节点位置更新。

常见错误现象:sync.Map 配合时间戳做淘汰 → 查找最旧项要遍历全部 key,高并发下锁竞争剧烈,且无法保证“最近访问”语义(比如 Get 后没更新时间戳,或更新不及时)。

  • 真正需要的是带访问时序感知的结构:双向链表 + 哈希映射
  • 必须把「节点移动到头」和「哈希查找」都控制在 O(1),否则并发下性能断崖下跌
  • 不要试图给 sync.Map 加锁后手动维护链表 —— 锁粒度难控制,极易死锁或漏更新

如何安全地把 list.Element 和 map 结合使用

Go 标准库 container/list 的 *list.Element 本身不带 key,必须靠 map[string]*list.Element 建立反查。但这里有个关键陷阱:map 存的是指针,而 list.Remove() 后该指针仍存在,若后续误用会 panic 或读到脏数据。

实操建议:

立即学习“go语言免费学习笔记(深入)”;

  • 每次 list.Remove() 后,立刻从 map 中 delete 对应 key,避免悬挂指针
  • 所有对链表的操作(MoveToFront、Remove、PushFront)必须和 map 更新放在同一把锁下 —— 推荐用 sync.RWMutex,读多写少场景下比 sync.Mutex 更友好
  • 不要把 *list.Element 暴露给调用方;封装成私有结构体字段,防止外部误调 Next()/Prev()

示例片段(非完整实现):

Golang Uber Dig
Golang Uber Dig

使用 uber-go/dig 在 Golang 中实现依赖注入——基于反射容器,提供 Provide/Invoke、dig.In/dig.Out 参数与结果对象,支持命名依赖等

下载
type entry struct {
    key   string
    value interface{}
}
...
e := l.PushFront(&entry{key: k, value: v})
m[k] = e // map 更新必须紧跟 PushFront

读写锁怎么分粒度才不拖慢并发性能

全局一把 sync.Mutex 看似简单,但 Get 和 Put 会互相阻塞,吞吐量上不去。可拆成「读锁保护 map 查找 + 小范围写锁保护链表操作」,但要注意:链表操作本身可能触发淘汰,淘汰又要删 map,所以 map 和链表更新必须原子。

更稳妥的做法是两把锁配合:

  • 用 sync.RWMutex 保护 map 读写(Get 查、Put 写、Del 删)
  • 链表操作(MoveToFront、Remove、PushFront)本身无锁 —— 因为 container/list 不是并发安全的,必须由上层锁兜底
  • 淘汰逻辑(当 len(map) > cap 时)必须在写锁内完成:先删链表尾、再删 map 对应 key,顺序不能反

性能影响:如果锁粒度太粗(比如整个 Get 流程持写锁),QPS 会随 goroutine 数增加而下降;实测中,读写分离后 16 核机器上 QPS 可提升 3–5 倍。

为什么淘汰策略里不能只看链表长度

链表长度 == map 长度,看似等价,但并发下可能出现「map 已删 key,链表节点还没 Remove」的窗口期,导致 len(list) > len(map),单纯用 l.Len() > c.capacity 判断会漏淘汰或重复淘汰。

正确做法永远以 map 长度为准:

  • 淘汰触发条件是 len(m) > c.capacity,不是 l.Len() > c.capacity
  • 每次 Put 新 key 前检查,淘汰完再插入;每次 Delete 后也检查(防止主动删导致容量空余)
  • 注意:list.Remove() 不会自动释放内存,但 Go GC 会回收,无需手动置 nil —— 但 map delete 必须做,否则 key 泄漏

容易被忽略的一点:如果缓存值本身很大(比如 []byte),淘汰时仅删除 map 和链表引用还不够,最好加个回调钩子(如 onEvict func(key string, value interface{})),让使用者能显式释放资源。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

519

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

616

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1216

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

791

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1786

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

5094

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

2354

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

4226

2025.06.17

Uvicorn 报错与问题解决教程
Uvicorn 报错与问题解决教程

本专题汇总了Uvicorn服务器常见问题与报错解决的教程合集,涵盖启动失败、端口占用、模块导入错误、事件循环冲突及热重载失效等典型故障的排查思路。同时整理了多进程与Worker配置、SSL/HTTPS证书报错、跨域与代理配置等实战解决方案,助你快速定位并解决Uvicorn运行中的各类问题。

0

2026.11.02

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn