讲师中心 微信公众号

工具推荐

视频效率加速
Seko
Seko

AI短剧一键生成成片

AniShort
AniShort

AI短剧协同制作平台

Laper
Laper

剧本策划到成片协作

updream

一键生成高质量推广成片

C++实现基于时间戳的限流算法 _ 令牌桶与漏桶原理实现【源码】

星伟吖_3324

星伟吖_3324

发布时间:2026-04-10 21:30:03

|

989人浏览过

|

来源于php中文网

原创

结论:C++中用std::chrono和原子变量可实现线程安全、低开销的令牌桶限流,而漏桶在纯内存服务端限流中基本不适用,因其无法应对突发流量,仅适合底层IO等对恒定速率有硬性要求的场景。

c++实现基于时间戳的限流算法 _ 令牌桶与漏桶原理实现【源码】

直接说结论:C++里用 std::chrono + 原子变量就能写出线程安全、低开销的令牌桶,但漏桶在纯内存限流场景下基本没必要实现——它本质是“固定速率消费”,而服务端限流真正要防的是突发流量冲击,令牌桶的“可突增+平滑”特性更贴合实际。

令牌桶:用 std::atomic 和 std::chrono::steady_clock 管理剩余令牌

核心思路不是每秒重置令牌数,而是按需计算“到当前时刻该有多少令牌”,避免定时器或后台线程。关键点:

  • capacity 和 rate_per_sec 是配置项,比如 100 令牌 / 秒,桶容量 200
  • 用 std::atomic<long long></long> 存储上一次填充时间(纳秒级时间戳),而非令牌数量本身,减少竞态
  • 每次请求来时,先算出“应有令牌数 = (now - last_fill_time) * rate_per_sec / 1e9”,再和当前剩余取 min
  • 判断是否允许通行:若 available_tokens >= needed,则原子更新剩余值并返回 true

示例关键片段:

bool tryConsume(int tokens = 1) {
    auto now = std::chrono::steady_clock::now().time_since_epoch().count();
    auto& last = last_fill_time_;
    auto prev = last.load(std::memory_order_relaxed);
    long long avail = 0;
<pre class='brush:php;toolbar:false;'>do {
    auto elapsed_ns = now - prev;
    double added = elapsed_ns * rate_per_sec_ / 1e9;
    avail = std::min(static_cast<long long>(added), capacity_);
    if (avail < tokens) return false;
} while (!last.compare_exchange_weak(prev, now, std::memory_order_relaxed));

// 此处需用 CAS 更新剩余令牌数(略去具体实现,推荐用带版本号的双原子变量或 mutex)
return true;

}

立即学习“C++免费学习笔记(深入)”;

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

漏桶不适合做接入层限流:它不解决“突发允许通过”的问题

漏桶强制以恒定速率输出请求,意味着即使桶空了,新请求也得排队等待——这在 HTTP 接入层会放大延迟,且无法应对短时合法突增(如秒杀预热)。常见误用场景:

  • 用 std::queue + 定时器模拟“漏水”,结果定时器精度差、线程调度抖动大,实际漏速不可控
  • 把漏桶当成“请求队列长度限制”,但这只是削峰,不是限流;真正的限流必须拒绝而非排队
  • 和令牌桶混用,比如“令牌桶准入 + 漏桶排队”,反而增加延迟和复杂度,没收益

真要用漏桶,只建议在底层 IO 调度或硬件限速等对速率稳定性要求极高的场景,且必须配合高精度时钟(如 CLOCK_MONOTONIC_RAW)和内核 bypass 才有意义。

线程安全与性能陷阱:别用 std::mutex 锁整个桶

高并发下锁桶等于串行化,QPS 直接归零。正确做法:

  • 所有读操作(时间计算、令牌估算)走无锁路径,只在真正扣减时做最小粒度 CAS
  • 避免用 std::time(nullptr) 或 gettimeofday():它们可能回跳,且精度低;必须用 std::chrono::steady_clock
  • 不要把 capacity 设得过大(如 10 万),会导致浮点误差累积,建议控制在 1000 以内,用整数运算替代浮点
  • 如果需要分布式限流,本地令牌桶只能作为兜底,主限流逻辑必须下沉到 Redis + Lua(如 redis-cell)或专用限流服务

最易被忽略的一点:令牌桶的“突发容忍”能力取决于 capacity 和 rate_per_sec 的比值。设成 100/100 和 1000/100,看上去都是 100qps,但后者允许单秒内打满 1000 请求——这个设计权衡,文档里常不写,但线上出问题时全靠它背锅。

热门AI工具

更多
PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

超级麦吉

一款通过数字员工协作完成调研、数据分析与文档制作的AI办公平台。

相关专题

更多
什么是分布式
什么是分布式

分布式是一种计算和数据处理的方式,将计算任务或数据分散到多个计算机或节点中进行处理。本专题为大家提供分布式相关的文章、下载、课程内容,供大家免费下载体验。

2233

2023.08.11

分布式和微服务的区别
分布式和微服务的区别

分布式和微服务的区别在定义和概念、设计思想、粒度和复杂性、服务边界和自治性、技术栈和部署方式等。本专题为大家提供分布式和微服务相关的文章、下载、课程内容,供大家免费下载体验。

3794

2023.10.07

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

4978

2023.08.10

页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

7296

2023.08.14

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

5029

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4615

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

9012

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

683

2024.04.07

GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

0

2026.11.17

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn