讲师中心 微信公众号
AI工具推荐 视频效率加速

怎样用Python优雅实现带TTL过期机制的LRU缓存?

陌丽酱_1261

陌丽酱_1261

发布时间:2026-10-07 08:42:48

|

544人浏览过

|

来源于php中文网

原创

functools.lru_cache不支持TTL,因其仅按访问频次和容量淘汰,不记录时间戳,无法在获取时校验过期;需自行封装如TTLCache类,在get中检查time.time()-timestamp>ttl并配合LRU管理。

怎样用python优雅实现带ttl过期机制的lru缓存?

为什么不能直接用 functools.lru_cache 加 TTL?

functools.lru_cache 本身不支持时间过期,它只按访问频次和容量淘汰。哪怕缓存项已“过期”,只要没被新调用挤出,就会一直返回旧值。你看到的“数据没更新”,往往就是这个原因。

常见错误现象:lru_cache(maxsize=128) 装了某个接口返回值,但该接口后端数据每 5 分钟变一次——缓存却可能几小时都不刷新。

  • 它没有存储创建/最后访问时间戳
  • 无法在 __getitem__ 阶段做 TTL 检查
  • 装饰器层面无法插入自定义过期逻辑

推荐方案:用 cached_property + 手动时间戳,还是用 LRUCache 自实现?

如果你只是给类属性加带 TTL 的缓存,cached_property 改造最轻量;但通用函数级缓存,必须自己管理键、值、时间戳和淘汰逻辑——别碰第三方包(如 cacheout 或 redis),除非你真需要分布式或持久化。

核心思路是:把 (key, value, timestamp) 封装进一个有序结构,每次 get 时检查 time.time() - timestamp > ttl,过期就删并返回 miss。

立即学习“Python免费学习笔记(深入)”;

python-script-generator
python-script-generator

快速生成专业的 Python 脚本和应用代码。一键创建完整项目结构,支持CLI、API、爬虫、Bot、Django等多种项目类型,包含完整的项目结构、配置文件、依赖管理、测试、README和文档。

下载
  • 用 dict 存键值对,用 collections.OrderedDict 维护访问顺序(便于 LRU 淘汰)
  • 每次 get 先 pop 再 re-insert,保证最近访问排在末尾
  • TTL 检查必须在 get 里做,不能只在 set 时记时间——否则 get 到的是过期脏数据
  • 避免用 threading.Lock:单线程够用;多线程场景下,用 threading.RLock 更安全

一个可直接粘贴的最小可行实现

下面这段代码跑通了并发读、TTL 判定、容量限制三件事,不到 40 行:

from collections import OrderedDict
import time
<p>class TTLCache:
def <strong>init</strong>(self, maxsize=128, ttl=300):
self.cache = OrderedDict()
self.maxsize = maxsize
self.ttl = ttl  # seconds</p><pre class="brush:php;toolbar:false;">def get(self, key, default=None):
    if key not in self.cache:
        return default
    value, timestamp = self.cache[key]
    if time.time() - timestamp > self.ttl:
        del self.cache[key]
        return default
    self.cache.move_to_end(key)  # refresh LRU order
    return value

def set(self, key, value):
    if self.maxsize == 0:
        return
    if len(self.cache) >= self.maxsize and key not in self.cache:
        self.cache.popitem(last=False)  # pop oldest
    self.cache[key] = (value, time.time())

注意两个关键点:move_to_end 必须在 get 成功后调用,否则 LRU 顺序错乱;popitem(last=False) 是 FIFO 弹出,不是按 TTL 弹——TTL 只管“是否可用”,LRU 管“谁该被淘汰”。

容易被忽略的边界问题

很多人写完发现缓存命中率低、或频繁重建,其实是栽在这些地方:

  • time.time() 在容器内多次调用可能有微秒级漂移,但对秒级 TTL 影响不大;若需更高精度,统一用 time.monotonic()
  • key 是可变类型(如 list、dict)会直接报 TypeError: unhashable type ——务必确保 key 可哈希
  • set 时如果 key 已存在,当前实现会覆盖并更新时间戳;但有些场景需要“只设一次”,得加 if key not in self.cache: 判断
  • 高并发下 get + set 非原子,可能重复计算;真要强一致性,得上 RLock,但会拖慢 15%~20%

真正难的不是写出来,而是想清楚:你的“过期”到底指“创建后过期”,还是“最后访问后过期”——前者用单时间戳,后者得维护 access_time 字段,且每次 get 都要更新它。

热门AI工具

更多
切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1671

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

4204

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1669

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

24337

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2987

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3007

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1163

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

596

2023.08.10

FrankenPHP集成Laravel详细教程
FrankenPHP集成Laravel详细教程

本专题提供FrankenPHP集成Laravel的详细配置指南,全面解析运行原理、开发环境搭建、Caddyfile配置、Octane工作模式、数据库连接、队列任务、定时任务和生产环境优化,解决部署过程中常见的报错与兼容性问题。

0

2026.10.08

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn