讲师中心 微信公众号
AI工具推荐 视频效率加速

Python LRU 缓存的实现原理

小芳姑娘_9130

小芳姑娘_9130

发布时间:2026-01-29 19:49:01

|

517人浏览过

|

来源于php中文网

原创

LRU缓存必须用双向链表+哈希表,因单纯dict无法O(1)删除最久未使用项;双向链表支持O(1)节点移动,哈希表提供O(1)查找,二者协同实现get/put的常数时间复杂度。

python lru 缓存的实现原理

LRU 缓存为什么必须用双向链表 + 哈希表

单纯用 dict 无法在 O(1) 时间内删除最久未使用的项,因为 Python 字典不保证访问顺序(3.7+ 虽然有序,但“最近访问”和“插入顺序”不是一回事)。LRU 的核心操作——把某 key 移到“最近使用”位置、删掉“最久未使用”节点——需要常数时间定位 + 删除 + 插入。双向链表支持 O(1) 拆入节点,哈希表提供 O(1) 查找节点指针。

常见错误是只用 OrderedDict 的 move_to_end(),它确实能模拟 LRU,但底层仍是链表操作,且每次访问都触发重排;而手写结构可避免冗余移动(比如只在 get 时更新,put 冲突时才删尾)。

Python 标准库 functools.lru_cache 怎么做缓存淘汰

它不公开内部链表,但行为等价:调用函数时命中缓存 → 把对应 entry 移至链表头;新 entry 插入头;容量超限时删链表尾。关键点在于它用弱引用(weakref)管理参数哈希键,避免因缓存导致对象无法回收。

实操注意:

立即学习“Python免费学习笔记(深入)”;

  • lru_cache(maxsize=128) 中 maxsize=None 表示无限制,但实际仍受内存约束
  • 被装饰函数的参数必须可哈希(否则抛 TypeError: unhashable type),比如不能传 list 或 dict
  • 线程安全:内部用 RLock,多线程下调用不会崩,但高并发下锁争用会影响吞吐

手动实现 LRU 时最容易漏掉的边界条件

自己写 LRUCache 类时,90% 的 bug 出在节点操作的对称性上:插入新节点要同时更新哈希表和链表;删除节点要从两者中都清除;更新访问顺序时不能只改链表而忘了哈希表里存的还是旧节点指针。

Secure Python Code Sandbox
Secure Python Code Sandbox

安全 Python 代码沙箱:在隔离的沙箱中执行任意 Python 代码,预装 requests、NumPy、pandas 库。返回 stdout、stderr。

下载

典型坑:

  • 初始化时没设好虚拟头尾节点(self.head / self.tail),导致 get 空缓存时 next 为 None 报 AttributeError
  • put 时 key 已存在,只更新 value 却忘了把节点移到头部
  • 容量为 0 时,任何 put 都应直接丢弃,不进缓存也不触发淘汰

一个最小可用骨架的关键逻辑是:self.cache[key] = new_node 必须紧挨着 self._add_to_head(new_node),顺序反了就会缓存错位。

lru_cache 的性能开销主要在哪

不是哈希计算,也不是链表操作,而是函数调用前后的封装层:每次调用都要走 descriptor 协议、检查参数 hash、查表、计数器更新、可能的锁获取。实测显示,空函数加 @lru_cache() 后调用耗时增加 3–5 倍(纳秒级变几十纳秒)。

所以别给单次运行就结束的函数加缓存;更别给参数总在变的函数加(比如含 time.time() 或随机数);如果函数本身耗时远低于 100ns,缓存反而拖慢整体。

真正值得缓存的是:纯函数、参数组合有限、执行成本显著高于哈希与查表(如 IO、复杂计算、数据库查询封装)。

热门AI工具

更多
音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

相关专题

更多
C++ 智能指针与现代内存管理
C++ 智能指针与现代内存管理

深入讲解 C++ 现代内存管理的核心工具——智能指针,涵盖 unique_ptr 独占所有权语义、shared_ptr 引用计数机制与循环引用问题、weak_ptr 弱引用的应用场景、make_unique/make_shared 工厂函数的性能优势、自定义删除器的编写、RAII 资源管理思想的实践,以及从裸指针迁移到智能指针的重构策略,帮助开发者编写安全无泄漏的现代 C++ 代码。

379

2026.04.23

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

4378

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

1229

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

423

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

559

2026.01.21

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

409

2026.02.06

C++多线程并发控制与线程安全设计实践
C++多线程并发控制与线程安全设计实践

本专题围绕 C++ 在高性能系统开发中的并发控制技术展开,系统讲解多线程编程模型与线程安全设计方法。内容包括互斥锁、读写锁、条件变量、原子操作以及线程池实现机制,同时结合实际案例分析并发竞争、死锁避免与性能优化策略。通过实践讲解,帮助开发者掌握构建稳定高效并发系统的关键技术。

253

2026.03.16

Java 多线程与并发编程实战
Java 多线程与并发编程实战

深入讲解 Java 并发编程体系,涵盖 Thread / Runnable / Callable 线程创建方式、线程生命周期与状态转换、synchronized 同步锁与 Lock/ReentrantLock 显式锁、volatile 可见性保证、ThreadPool 线程池配置与调优(核心参数/拒绝策略)、JUC 并发工具类(CountDownLatch/CyclicBarrier/Semaphore/ConcurrentHashMa

369

2026.04.17

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

60

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn