讲师中心 微信公众号
AI工具推荐 视频效率加速

如何实现Java的高性能本地缓存_Caffeine并发设计思路解析

轻婷酱_5672

轻婷酱_5672

发布时间:2026-02-28 11:29:23

|

493人浏览过

|

来源于php中文网

原创

如何实现java的高性能本地缓存_caffeine并发设计思路解析

为什么 Caffeine 的 get 方法默认不阻塞写入

因为 Caffeine 把“缓存未命中 + 异步加载”和“同步计算 + 阻塞等待”做了明确分离。它默认走的是 get(key, mappingFunction) 这条路径,而这个方法在 key 不存在时,会用你传的 mappingFunction 同步计算值并写入,**期间其他线程对同一 key 的 get 调用会各自触发计算,不共享 loading 过程**——也就是常说的“缓存击穿”风险点。

常见错误现象:get(key, () -> heavyIoCall()) 在高并发下导致后端被压垮,日志里看到几十次重复的 heavyIoCall 执行。

  • 真正想做“只加载一次、其余线程等待”的行为,得显式启用 refreshAfterWrite 或配合 asMap().computeIfAbsent + 手动锁,但后者破坏了缓存语义
  • build().get(key, ...) 是无状态的,不维护 loading 中的状态;AsyncLoadingCache 才提供真正的异步 load + 共享 CompletableFuture
  • 如果你依赖 Spring 的 @Cacheable,底层用 Caffeine 时默认仍是同步加载,需配 sync = true(Spring Boot 2.7+)才启用轻量级本地锁

maximumSize 和 maximumWeight 别混用

二者不可共存,Caffeine 构建时会直接抛 IllegalStateException: maximumSize and maximumWeight cannot both be set。选哪个取决于你关心的是“条目数量上限”还是“内存权重上限”。

使用场景:API 响应体大小差异极大,比如有的返回 1KB JSON,有的返回 5MB 图片 base64,这时用 maximumWeight 更合理;若缓存都是固定结构的 DTO,且数量可控,maximumSize 更直观。

立即学习“Java免费学习笔记(深入)”;

sc-java-to-ts-interface
sc-java-to-ts-interface

将后端 Java 接口文档转换为前端 TypeScript 类型定义(interface / type)。输入:飞书文档、Spring Boot 接口文档、Swagger/OpenAPI、手写 API 文档等。输出:包含请求参数与响应结果的 .md 文件,含完整 JSDoc 注释。触发关键词:Java 转 TS、接口转换、生成前端类型、接口文档转 TypeScript、DTO/VO/BO 转 interface、后端文档转前端类型、生成接口类型、类型定义生成。

下载
  • weigher 函数必须是纯函数,不能有副作用,也不能依赖外部状态(比如调用 System.currentTimeMillis())
  • 权重不是字节数,而是你定义的抽象单位;Caffeine 不做内存测量,只累加你返回的 long 值
  • 设置 maximumWeight=10000 但所有 entry weigher 都返回 0 → 缓存永不淘汰,容易 OOM

淘汰策略不是 LRU,而是 W-TinyLFU

Caffeine 默认不用传统 LRU,而是基于概率统计的 W-TinyLFU(Window Tiny Least Frequently Used),它用布隆过滤器 + 频率 sketch 做热点识别,在吞吐和命中率上比 LRU 更稳。但这意味着:你不能靠“最近访问”来预测淘汰顺序,尤其在冷热数据混合场景下。

常见错误现象:手动调用 cache.invalidateAll() 后,观察到部分刚 put 的 key 立即被踢出,以为是 bug,其实是 W-TinyLFU 的准入机制在起作用——新 key 需先通过 window cache 的热度验证,否则直接淘汰。

  • 不支持切换回纯 LRU;想模拟 LRU 行为,只能设极小 recordStats() + 自己统计访问时间,再手动清理
  • evictionListener 触发时机是“确定淘汰前”,但 listener 内不能阻塞或耗时,否则拖慢整个 eviction 流程
  • 压力测试时如果只压单个 key,W-TinyLFU 可能误判为“非热点”,导致命中率反低于预期

并发更新下 asMap() 的行为边界

cache.asMap() 返回的是一个线程安全的 ConcurrentMap 视图,但它**不保证原子复合操作**。比如 asMap().computeIfAbsent(key, k -> load(k)) 看似能防击穿,实际仍可能多次执行 load(k) —— 因为 computeIfAbsent 底层没用 Caffeine 的 loading 机制,只是普通 ConcurrentHashMap 的语义。

性能影响:频繁调用 asMap().get(key) 比原生 cache.get(key, ...) 慢 10%~20%,因为绕过了 Caffeine 内部的 fast-path 优化(如避免包装 Optional)。

  • 不要用 asMap().put(key, value) 替代 cache.put(key, value),前者不触发 removalListener,也不参与权重/大小统计
  • asMap().replace(key, oldValue, newValue) 是原子的,但 oldValue 必须严格等于当前值(引用相等 or equals),注意装箱类型陷阱
  • 如果业务逻辑强依赖 Map 接口,建议封装一层适配器,把 cache.get(key, f) 包装成类似 computeIfAbsent 的语义,而不是裸用 asMap

W-TinyLFU 的窗口期、weigher 的实现精度、以及 loading 过程是否可取消——这三个地方一旦配置不当,问题往往在线上压测时才暴露,而且很难复现。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

相关专题

更多
spring框架介绍
spring框架介绍

本专题整合了spring框架相关内容,想了解更多详细内容,请阅读专题下面的文章。

2691

2025.08.06

Java Spring Security 与认证授权
Java Spring Security 与认证授权

本专题系统讲解 Java Spring Security 框架在认证与授权中的应用,涵盖用户身份验证、权限控制、JWT与OAuth2实现、跨站请求伪造(CSRF)防护、会话管理与安全漏洞防范。通过实际项目案例,帮助学习者掌握如何 使用 Spring Security 实现高安全性认证与授权机制,提升 Web 应用的安全性与用户数据保护。

497

2026.01.26

spring boot框架优点
spring boot框架优点

spring boot框架的优点有简化配置、快速开发、内嵌服务器、微服务支持、自动化测试和生态系统支持。本专题为大家提供spring boot相关的文章、下载、课程内容,供大家免费下载体验。

651

2023.09.05

spring框架有哪些
spring框架有哪些

spring框架有Spring Core、Spring MVC、Spring Data、Spring Security、Spring AOP和Spring Boot。详细介绍:1、Spring Core,通过将对象的创建和依赖关系的管理交给容器来实现,从而降低了组件之间的耦合度;2、Spring MVC,提供基于模型-视图-控制器的架构,用于开发灵活和可扩展的Web应用程序等。

1455

2023.10.12

Java Spring Boot开发
Java Spring Boot开发

本专题围绕 Java 主流开发框架 Spring Boot 展开,系统讲解依赖注入、配置管理、数据访问、RESTful API、微服务架构与安全认证等核心知识,并通过电商平台、博客系统与企业管理系统等项目实战,帮助学员掌握使用 Spring Boot 快速开发高效、稳定的企业级应用。

5186

2025.08.19

Java Spring Boot 4更新教程_Java Spring Boot 4有哪些新特性
Java Spring Boot 4更新教程_Java Spring Boot 4有哪些新特性

Spring Boot 是一个基于 Spring 框架的 Java 开发框架,它通过 约定优于配置的原则,大幅简化了 Spring 应用的初始搭建、配置和开发过程,让开发者可以快速构建独立的、生产级别的 Spring 应用,无需繁琐的样板配置,通常集成嵌入式服务器(如 Tomcat),提供“开箱即用”的体验,是构建微服务和 Web 应用的流行工具。

436

2025.12.22

Java Spring Boot 微服务实战
Java Spring Boot 微服务实战

本专题深入讲解 Java Spring Boot 在微服务架构中的应用,内容涵盖服务注册与发现、REST API开发、配置中心、负载均衡、熔断与限流、日志与监控。通过实际项目案例(如电商订单系统),帮助开发者掌握 从单体应用迁移到高可用微服务系统的完整流程与实战能力。

660

2025.12.24

Spring Boot企业级开发与MyBatis Plus实战
Spring Boot企业级开发与MyBatis Plus实战

本专题面向 Java 后端开发者,系统讲解如何基于 Spring Boot 与 MyBatis Plus 构建高效、规范的企业级应用。内容涵盖项目架构设计、数据访问层封装、通用 CRUD 实现、分页与条件查询、代码生成器以及常见性能优化方案。通过完整实战案例,帮助开发者提升后端开发效率,减少重复代码,快速交付稳定可维护的业务系统。

405

2026.02.11

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

100

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
dev.java 官方:Learn Java
dev.java 官方:Learn Java

共0课时 | 0人学习

Java JDBC数据库连接官方教程
Java JDBC数据库连接官方教程

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn