Java序列化不当会引发内存膨胀,主要因反序列化时隐式实例化、Gadget链执行、静态引用滞留及集合无界增长;应禁用默认反序列化、预检字节流长度与嵌套深度、避免序列化上下文对象,并采用Protobuf/FlatBuffers等轻量协议替代。

Java序列化本身不直接导致内存膨胀,但不当使用会引发严重内存问题——尤其是反序列化阶段对象图重建时的隐式实例化、Gadget链执行、静态引用滞留或集合无界增长。大变量传输若依赖原生序列化,极易在堆中构建巨型对象图,触发Full GC频繁、元空间暴涨甚至OOM。关键不在“传得多”,而在“建得重”和“收不回”。
识别序列化引发的内存膨胀信号
不是所有内存增长都来自序列化,但以下现象高度提示其参与:
- 堆内存中出现大量
java.util.HashMap$Node、sun.reflect.annotation.AnnotationInvocationHandler等非业务类实例,且由ObjectInputStream.readObject()调用栈触发 - 反序列化后对象图深度超10层、宽度(子引用数)超百,但业务逻辑无需如此复杂结构
- 使用
jmap -histo发现byte[]、char[]或Object[]实例数量突增,且与RPC/缓存/消息体大小强相关 - 元空间持续增长,
jstat -gc显示MU(Metaspace Used)稳步上升,伴随类加载器未卸载(如LeakClassLoader)
阻断反序列化过程中的隐式内存扩张
原生ObjectInputStream在反序列化时会递归构造所有字段类型,包括嵌套集合、代理类、反射类,极易生成冗余中间对象:
- 禁用默认反序列化,自定义
resolveClass方法,白名单控制可反序列化的类名前缀(如仅允许com.myapp.dto.) - 对传入字节流做长度与嵌套深度预检:单次反序列化字节数建议≤512KB;通过自定义
ObjectInputStream重写readObjectOverride,在读取每个对象前计数嵌套层级,超5层即抛InvalidClassException - 避免将
ThreadLocal、ClassLoader、Connection等含上下文状态的对象放入序列化字段——它们可能携带不可见的引用链,拖慢GC
替代方案:用轻量协议压缩大变量传输
真正的大变量(如报表数据、图像元信息、批量日志)不应走Java原生序列化:
立即学习“Java免费学习笔记(深入)”;
- 结构化数据优先用Protobuf或FlatBuffers:二者序列化后体积通常为Java原生的1/3~1/5,且反序列化不执行任意代码,无Gadget风险;Protobuf需定义
.protoschema,FlatBuffers支持零拷贝读取 - 纯文本大数据用JSON+GZIP:启用Jackson的
SmileFactory(二进制JSON)或JsonGenerator.Feature.WRITE_NUMBERS_AS_STRINGS避免浮点精度丢失,传输前压缩率可达60%+ - 超大二进制(如文件切片)改用分块+MD5校验:每次只传≤1MB的
byte[],服务端拼接并校验整体哈希,避免单次加载全量到堆中
监控与兜底:让膨胀行为可感知、可拦截
靠开发自觉不够,需工程化防护:
- 在RPC框架(如Dubbo、gRPC)序列化层插入过滤器,记录每次反序列化耗时与生成对象数,超过阈值(如耗时>200ms或对象数>5000)自动告警并拒绝
- JVM启动时添加
-XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/dumps/,配合MAT分析dump中java.io.ObjectInputStream关联的引用链,定位膨胀源头类 - 对缓存场景(如Redis存储序列化对象),强制要求DTO类实现
Serializable的同时标注@Size(max=10240)等校验注解,并在序列化前校验字段总长度


















