讲师中心 微信公众号
AI工具推荐 视频效率加速

Python 如何优雅实现带过期时间的 LRU 缓存(不依赖第三方)

风瑶大大_5497

风瑶大大_5497

发布时间:2026-01-24 16:37:29

|

162人浏览过

|

来源于php中文网

原创

functools.lru_cache不支持TTL机制,因其设计为纯LRU淘汰且无过期时间参数;需手写TTLCache类,用OrderedDict存(value, expire_time)并检查时间戳,注意LRU顺序更新、线程安全及精度权衡。

python 如何优雅实现带过期时间的 lru 缓存(不依赖第三方)

为什么 functools.lru_cache 不能直接加过期时间

functools.lru_cache 是 Python 内置的 LRU 缓存,但它不支持 TTL(Time-To-Live)机制。缓存项一旦写入,就永远有效,直到被 LRU 淘汰或手动清除。你无法通过参数设置“5 秒后自动失效”。强行在函数内检查时间戳,会破坏装饰器的纯封装性,也容易漏掉并发访问下的竞态问题。

手写带 TTL 的 LRU 缓存:用 OrderedDict + 时间戳

核心思路是:用 collections.OrderedDict 维护访问顺序,每个缓存值存储为 (value, expire_time) 元组;每次 get 前检查 expire_time 是否已过期,过期则删除并返回未命中。

关键实操点:

  • 用 time.time()(非 time.monotonic())便于调试,但注意系统时间回拨会导致误删;生产环境可换用 time.monotonic() + 初始偏移
  • OrderedDict.move_to_end(key) 必须在每次 get 成功后调用,否则 LRU 顺序错乱
  • 写入时若已存在 key,需先 pop 再重插,避免残留旧过期时间
  • 缓存大小限制(maxsize)和 TTL 要正交处理:淘汰只看数量,过期只看时间

示例片段(简化版):

立即学习“Python免费学习笔记(深入)”;

from collections import OrderedDict
import time
<p>class TTLCache:
def <strong>init</strong>(self, maxsize=128, ttl=60):
self.cache = OrderedDict()
self.maxsize = maxsize
self.ttl = ttl</p><pre class="brush:php;toolbar:false;">def get(self, key):
    if key not in self.cache:
        return None
    value, expire_at = self.cache[key]
    if time.time() > expire_at:
        self.cache.pop(key)
        return None
    self.cache.move_to_end(key)  # 更新 LRU 顺序
    return value

def put(self, key, value):
    if self.maxsize == 0:
        return
    if key in self.cache:
        self.cache.pop(key)
    elif len(self.cache) >= self.maxsize > 0:
        self.cache.popitem(last=False)  # 弹出最久未用
    self.cache[key] = (value, time.time() + self.ttl)

提示词大师-python版
提示词大师-python版

图片提示词生成器?不止如此。 马甲系统 —— 把脑海中的画面,翻译成AI能理解的专业表达。 用得越多,它越懂你:首次需要多问几句确认方向,用久了几乎一说就懂。 用得越多,它越快:缓存机制让后续对话越来越省。 RAG进化:成功案例持续入库,越跑越聪明。 输入「新手指南」查看完整功能介绍

下载

用装饰器包装成类似 lru_cache 的用法

要复刻 @lru_cache(ttl=30) 的体验,需支持带参装饰器、绑定到函数对象的独立缓存实例,并兼容 cache_clear() 等方法。

注意点:

  • 装饰器工厂函数必须返回真正的装饰器,不能直接返回缓存实例
  • 每个被装饰函数应持有自己的 TTLCache 实例,避免跨函数污染
  • 把 cache_clear、cache_info 等方法挂到 wrapper 上,否则用户调用 func.cache_clear() 会报错
  • 不支持 typed=True(即不同类型的相同值视为不同 key),除非手动序列化类型信息

线程安全与实际部署的坑

上面的 TTLCache 类默认不是线程安全的:get 和 put 中的多步操作(查、删、改、move)可能被并发打断。简单加 threading.Lock 会严重拖慢性能,尤其读多写少场景。

更实用的做法:

  • 读操作(get)不加锁,允许短暂返回过期值(业务能容忍几毫秒偏差)
  • 写操作(put)加锁,保证 pop 和 set 原子性
  • 如果必须强一致性,用 threading.RLock 并把整个 get 流程锁住——但请确认你的 QPS 是否真的需要
  • 进程间不共享缓存;多进程部署时,每个进程有独立缓存副本,TTL 各自计算

真正难的不是实现,而是判断“过期”是否必须精确到毫秒级,以及能否接受缓存雪崩时的瞬时穿透。这些权衡点,比代码本身更影响最终效果。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

3778

2023.08.10

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

80

2026.09.30

LLVM RISC-V参数配置教程
LLVM RISC-V参数配置教程

本专题介绍LLVM对RISC-V基础ISA和扩展的支持方式,涵盖RV32、RV64、标准扩展、实验性扩展、厂商扩展、-menable-experimental-extensions和版本差异。

80

2026.09.30

LLVM IR中间表示入门指南
LLVM IR中间表示入门指南

本专题整理LLVM IR的核心概念,包括中间表示作用、模块结构、函数、基本块、SSA形式、类型系统和常见语法,帮助新手理解LLVM编译流程中的关键层。

40

2026.09.30

PDF转图片方法
PDF转图片方法

需要把 PDF 页面用于上传、预览、分享或图片归档时,PDF 转图片方法专题整理 JPG/PNG 格式选择、逐页导出、清晰度设置、批量下载和结果检查等流程,帮助用户稳定完成 PDF 图片化处理。

40

2026.09.30

PixTV AI视频生成与无限画布创作
PixTV AI视频生成与无限画布创作

PixTV专题整理AI视频与视觉内容创作相关功能使用教程,涵盖AI生图、视频生成、无限画布、多模型创作、素材管理、声音音乐及视频剪辑等功能,帮助用户快速掌握PixTV从创意到成片的完整制作方法。

60

2026.09.29

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

280

2026.09.23

Buffalo框架路由与请求处理实操指南
Buffalo框架路由与请求处理实操指南

本专题讲解Buffalo框架路由与请求处理机制,涵盖路由注册与分组、资源路由、Handler编写规范、Context上下文方法、参数绑定、中间件编写挂载、Session与Cookie读写、Flash消息及错误页面定制方法。

160

2026.09.23

Buffalo框架零基础入门教程
Buffalo框架零基础入门教程

本专题整理Buffalo框架入门内容,涵盖Go环境准备、buffalo CLI安装、新项目生成、目录结构说明、dev热加载启动、数据库连接配置与常见报错排查,帮助新手按约定优于配置的思路跑通第一个Buffalo框架应用。

120

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn