讲师中心 微信公众号
AI工具推荐 视频效率加速

并发控制的“令牌桶”算法实现:利用 Semaphore 配合定时任务模拟平滑的流量限制逻辑

夏涛酱_8024

夏涛酱_8024

发布时间:2026-05-31 11:09:21

|

470人浏览过

|

来源于php中文网

原创

令牌桶算法用Semaphore模拟需配合定时任务周期性release许可来匀速加令牌,初始化设最大容量,acquire(1)消耗令牌,非公平模式+超时tryAcquire保障线程安全与响应性,预填充和监控可优化突发流量与调优。

并发控制的“令牌桶”算法实现:利用 semaphore 配合定时任务模拟平滑的流量限制逻辑

令牌桶算法的核心思想是:系统以恒定速率向桶中添加令牌,请求需要先获取令牌才能执行,桶满则丢弃新令牌,无令牌则拒绝请求。用 Semaphore 模拟令牌桶的关键在于——它本身不支持“自动补充”,必须配合外部定时任务来周期性地释放许可(即“加令牌”),从而模拟平滑的填充行为。

用 Semaphore 表示令牌桶容量

Semaphore 的许可数直接对应桶中当前可用令牌数。初始化时设为最大容量(如 100),表示桶初始满载;每次请求尝试 acquire(1),成功即消耗一个令牌;失败则说明桶空,触发限流逻辑。

  • 注意设置为非公平模式(默认),避免线程排队饥饿
  • 不使用 acquireUninterruptibly,保留中断响应能力,便于服务优雅停机
  • 建议封装成线程安全的工具类,避免多处直接操作 Semaphore

定时任务负责“匀速加令牌”

令牌桶强调“稳定速率”,例如每秒放 10 个令牌。可使用 ScheduledExecutorService 每 100ms 尝试释放 1 个许可(10 × 0.1 = 1),但需防止超发:只在未达最大容量时才 release。

  • 通过 semaphore.availablePermits() 判断是否还能加令牌
  • 用 semaphore.release(1) 增加一个令牌,不是重置,而是累加
  • 调度周期越小,填充越平滑,但调度开销略增;100ms 是较平衡的选择

处理突发与预热场景

纯定时填充在服务刚启动或低流量后突增时,桶中令牌少,容易误限流。可结合“最大突发量”设计:允许桶容量短暂超过基础值(如 +20%),或启动时预填充部分令牌。

  • 预填充可在初始化后立即 release(n),比如填满一半
  • 若需支持动态调整速率,需同步更新定时任务周期和容量判断逻辑
  • 监控 availablePermits() 和拒绝次数,有助于调优参数

注意边界与线程安全细节

Semaphore 本身线程安全,但定时任务 + acquire 组合仍需注意几个隐含问题:

  • 定时任务可能因 GC 或调度延迟导致短时间补慢,属于正常现象,算法本身容忍小幅抖动
  • 不要在 acquire 阻塞时做耗时操作,应设超时(如 tryAcquire(1, 100, TimeUnit.MILLISECONDS))
  • 关闭服务时,应主动 shutdown 定时器,并清空或记录剩余令牌状态(如需持久化)

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

超级麦吉

一款通过数字员工协作完成调研、数据分析与文档制作的AI办公平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

相关专题

更多
golang map内存释放
golang map内存释放

本专题整合了golang map内存相关教程,阅读专题下面的文章了解更多相关内容。

650

2025.09.05

golang map相关教程
golang map相关教程

本专题整合了golang map相关教程,阅读专题下面的文章了解更多详细内容。

343

2025.11.16

golang map原理
golang map原理

本专题整合了golang map相关内容,阅读专题下面的文章了解更多详细内容。

533

2025.11.17

java判断map相关教程
java判断map相关教程

本专题整合了java判断map相关教程,阅读专题下面的文章了解更多详细内容。

303

2025.11.27

页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

6436

2023.08.14

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

60

2026.10.28

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

20

2026.10.28

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

40

2026.10.28

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

140

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn