讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在高并发 WebSocket 网关中实现基于令牌桶算法的流量整形

酷芳姑娘_9220

酷芳姑娘_9220

发布时间:2026-04-11 19:54:54

|

514人浏览过

|

来源于php中文网

原创

令牌桶比计数器更适合 WebSocket 流量整形,因其允许短时突发(如 burst=5)而长期维持稳定速率(如 2 QPS),能区分“打字提示”与“提交请求”等语义差异;需为每连接绑定独立桶、异步定时补令牌、按客户端类型分级配额,并在写入前原子校验,失败时发应用层限流消息而非断连。

如何在高并发 websocket 网关中实现基于令牌桶算法的流量整形

为什么令牌桶比计数器更适合 WebSocket 流量整形

计数器类限流(比如每秒最多 10 次 message)在 WebSocket 场景下容易误杀:客户端一次输入可能触发多个后端调用,或服务端流式推送时高频小帧被当成“超频”。令牌桶能平滑突发流量,更贴合真实业务节奏——比如允许用户短时 burst 发送 5 条指令,但长期维持在 2 QPS。

关键点在于:WebSocket 连接生命周期长、消息方向双向、单连接内消息密度不均。硬性窗口计数无法区分「打字提示」和「提交请求」这类语义差异,而令牌桶配合动态配额可以。

如何为每个 WebSocket 连接绑定独立令牌桶

不能共用全局桶,否则会跨连接干扰;也不能每次 message 事件都 new 一个桶,会造成 GC 压力。推荐做法是把桶实例挂载到连接上下文对象上:

  • Node.js(ws 库):在 connection 事件中初始化 bucket 并赋给 ws.bucket = new TokenBucket(...)
  • Go(gorilla/websocket):定义自定义连接结构体,嵌入 *tokenbucket.Bucket 字段,在 Upgrade 后构造
  • Java(Netty):用 Channel.attr(AttributeKey<tokenbucket>)</tokenbucket> 存储,避免内存泄漏需在 channelInactive 时清理

注意:桶的 refill 速率必须用异步定时器驱动(如 Node.js 的 setInterval 或 Go 的 time.Ticker),不能依赖消息到达触发——否则空闲连接会耗尽令牌,活跃连接反而受限。

WebSocket 8.18.2
WebSocket 8.18.2

WebSocket 8.18.2 是该协议规范的一个重要迭代版本,主要优化了连接稳定性与数据传输效率。它通过全双工通信机制,允许客户端与服务器在单一长连接上实时交换数据,大幅降低传统 HTTP 轮询的开销。该版本增强了心跳保活、自动重连及二进制帧传输能力,适用于即时通讯、在线游戏及金融行情推送等低延迟场景,为开发者提供更可靠的实时网络交互基础。

下载

令牌桶参数如何适配不同客户端类型

统一配额会伤害体验:移动端弱网用户需要更低的初始令牌数和更保守的 refill,而桌面端 AI 工具可能需更高 burst 容量。建议按客户端标识分级:

  • 从 Sec-WebSocket-Protocol 或升级请求的 query 参数提取 client_type=ai-assistant 等标记
  • 对 user_id 做哈希取模,映射到预设策略组(如 A 组:burst=3, rate=1/s;B 组:burst=8, rate=5/s)
  • 避免用 IP 限流——NAT 环境下会误伤整栋办公楼

实测发现:当 burst 设置为 0 时,等效退化为严格漏桶,适合风控强场景;但多数流式对话网关设为 burst=5~10 能兼顾响应速度与稳定性。

写入前校验失败时该返回什么错误

不要直接 ws.close(1008)——这会断连,违背 WebSocket 长连接设计初衷。正确做法是发送应用层拒绝消息,并保持连接:

  • Node.js:ws.send(JSON.stringify({ type: 'rate_limited', retry_after: 200 }))
  • Go:conn.WriteJSON(map[string]interface{}{"type": "rate_limited", "retry_after": 200})
  • 客户端收到后应暂停发送,等待 retry_after 毫秒再重试,而非立即重连

真正容易被忽略的是:令牌桶的 tryConsume 必须是原子操作。多线程/协程环境下若未加锁或未用 CAS,会出现超发。Gorilla WebSocket 示例里常见错误是直接调 bucket.Available() 再判断,这中间存在竞态窗口。

热门AI工具

更多
超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
C语言变量命名
C语言变量命名

c语言变量名规则是:1、变量名以英文字母开头;2、变量名中的字母是区分大小写的;3、变量名不能是关键字;4、变量名中不能包含空格、标点符号和类型说明符。php中文网还提供c语言变量的相关下载、相关课程等内容,供大家免费下载使用。

2689

2023.06.20

c语言入门自学零基础
c语言入门自学零基础

C语言是当代人学习及生活中的必备基础知识,应用十分广泛,本专题为大家c语言入门自学零基础的相关文章,以及相关课程,感兴趣的朋友千万不要错过了。

2128

2023.07.25

c语言运算符的优先级顺序
c语言运算符的优先级顺序

c语言运算符的优先级顺序是括号运算符 > 一元运算符 > 算术运算符 > 移位运算符 > 关系运算符 > 位运算符 > 逻辑运算符 > 赋值运算符 > 逗号运算符。本专题为大家提供c语言运算符相关的各种文章、以及下载和课程。

1100

2023.08.02

c语言数据结构
c语言数据结构

数据结构是指将数据按照一定的方式组织和存储的方法。它是计算机科学中的重要概念,用来描述和解决实际问题中的数据组织和处理问题。数据结构可以分为线性结构和非线性结构。线性结构包括数组、链表、堆栈和队列等,而非线性结构包括树和图等。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1058

2023.08.09

c语言random函数用法
c语言random函数用法

c语言random函数用法:1、random.random,随机生成(0,1)之间的浮点数;2、random.randint,随机生成在范围之内的整数,两个参数分别表示上限和下限;3、random.randrange,在指定范围内,按指定基数递增的集合中获得一个随机数;4、random.choice,从序列中随机抽选一个数;5、random.shuffle,随机排序。

1276

2023.09.05

c语言const用法
c语言const用法

const是关键字,可以用于声明常量、函数参数中的const修饰符、const修饰函数返回值、const修饰指针。详细介绍:1、声明常量,const关键字可用于声明常量,常量的值在程序运行期间不可修改,常量可以是基本数据类型,如整数、浮点数、字符等,也可是自定义的数据类型;2、函数参数中的const修饰符,const关键字可用于函数的参数中,表示该参数在函数内部不可修改等等。

1958

2023.09.20

c语言get函数的用法
c语言get函数的用法

get函数是一个用于从输入流中获取字符的函数。可以从键盘、文件或其他输入设备中读取字符,并将其存储在指定的变量中。本文介绍了get函数的用法以及一些相关的注意事项。希望这篇文章能够帮助你更好地理解和使用get函数 。

3000

2023.09.20

c数组初始化的方法
c数组初始化的方法

c语言数组初始化的方法有直接赋值法、不完全初始化法、省略数组长度法和二维数组初始化法。详细介绍:1、直接赋值法,这种方法可以直接将数组的值进行初始化;2、不完全初始化法,。这种方法可以在一定程度上节省内存空间;3、省略数组长度法,这种方法可以让编译器自动计算数组的长度;4、二维数组初始化法等等。

12995

2023.09.22

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

120

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WebSocket手册
WebSocket手册

共0课时 | 0人学习

Webman中文手册
Webman中文手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn