讲师中心 微信公众号
AI工具推荐 视频效率加速

Hyperf如何避免大对象存入Redis导致内存溢出_压缩序列化后的字符串数据

秋晨小哥_3012

秋晨小哥_3012

发布时间:2026-05-21 19:43:06

|

367人浏览过

|

来源于php中文网

原创

Hyperf存大对象前必须序列化压缩:禁用serialize(),改用json_encode()+gzdeflate()压缩并base64编码,key加:gz标记;写入前校验体积≤512KB,读取时严格按标记和魔数解压并try/catch兜底。

hyperf如何避免大对象存入redis导致内存溢出_压缩序列化后的字符串数据

Hyperf里存大对象前必须做序列化压缩

Hyperf默认用serialize()序列化数据,但PHP原生序列化体积大、无压缩、不跨语言。直接把未压缩的数组或对象塞进Redis,比如一个含10万条日志的$logs数组,serialize($logs)可能产出8MB字符串,而json_encode($logs) + gzdeflate()可压到1.2MB——这直接影响maxmemory是否被快速击穿。

关键不是“能不能存”,而是“存完会不会让mem_fragmentation_ratio飙升”或触发qubf-free耗尽导致连接被关。

  • 避免用serialize(),改用json_encode($data, JSON_UNESCAPED_UNICODE | JSON_UNESCAPED_SLASHES),减少冗余字符
  • 对>100KB的value,强制加gzdeflate()(不是gzcompress(),前者无header,Redis解压更轻量)
  • 压缩后用base64_encode()转义,避免二进制内容污染RESP协议(否则*、$等字节可能被误解析为RESP数组头)
  • 务必在key名里打标记,例如cache:report:202605:v2:gz,方便后续排查和灰度下线

Redis客户端写入时要主动控制单次体积

Hyperf的RedisClient底层走RESP协议,输入缓冲区(input buffer)默认1GB但不可调;一旦某次SET命令携带超大payload(如未压缩的5MB JSON),服务端处理慢+网络延迟高,就容易卡在缓冲区堆积,最终触发qubf-free告警甚至断连。

这不是Redis配置问题,是Hyperf业务层没做前置校验。

  • 在调用$redis->set($key, $value)前,加一行if (strlen($value) > 512 * 1024) { throw new RuntimeException('Value too large'); }
  • 对List/Hash等结构,禁用HSETALL、LRANGE key 0 -1这类全量拉取命令;改用分页+游标(HSCAN、SSCAN)
  • Hyperf的CacheInterface::set()不校验大小,必须自己封装一层SafeCache类,拦截超限写入

读取时解压逻辑必须和写入严格对称

存的时候压了,取的时候忘了解,业务会拿到一串乱码;解压时没捕获gzinflate()失败,就会抛Warning: gzinflate(): data error并中断协程——Hyperf里这种错误不会自动gc_collect_cycles(),强引用一直挂着,RSS持续涨到OOM Kill。

Hyperframes Creative
Hyperframes Creative

HyperFrames视频非动画创意指导,包括设计规范(frame.md/design.md)处理、配色、字体设计、旁白及节奏规划等。

下载

解压不是加个函数就行,得兜住所有异常路径。

  • 先检查key后缀是否含:gz,不含则直返$raw,不调gzinflate()
  • 解压前用if (substr($raw, 0, 2) === "\x1f\x8b")判断是否gzip魔数,避免对非压缩数据硬解
  • gzinflate()必须包在try/catch里,失败时记录error_log("Redis decompress failed for {$key}")并返回null,绝不让异常穿透到业务层
  • Hyperf协程内不要用unserialize()反序列化任何来自Redis的数据,一律用json_decode($str, true),避免POP链反序列化漏洞

Hyperf进程内缓存也要防大对象泄漏

很多人只盯着Redis,忘了Hyperf自己的Co\Channel、Table、DI容器属性也可能存着未释放的大对象。比如一个@Cacheable注解方法返回了10MB数组,Hyperf默认会把它整个放进协程本地缓存,下次同协程再调用直接返回——但这10MB永远不会被GC回收,因为注解生成的闭包隐式持有了$this和全部上下文。

这个泄漏在memory_get_usage()里完全看不到,但ps aux --sort=-rss能清楚看到RSS单向爬升。

  • 禁用@Cacheable对大结果的缓存,改用显式$this->redis->get($key) + 手动解压
  • 所有存入Co\Channel或Table的数据,必须限制单条strlen()
  • 在@OnWorkerStart里注册的全局监听器,回调函数严禁use ($bigObject),改用ID传参后按需查Redis

Hyperf里真正危险的从来不是Redis内存溢出,而是PHP层序列化+Redis缓冲区+协程强引用三者叠加——其中任意一环没断,mem_fragmentation_ratio就可能从1.2一路飙到3.0,而你还在看used_memory_human觉得“才200MB,还早”。

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4309

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

3795

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

6892

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

623

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

736

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

6542

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1140

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1016

2024.04.07

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

80

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn