讲师中心 微信公众号
AI工具推荐 视频效率加速

c# 接口限流的实现 c# 令牌桶算法和漏桶算法

落敏大大_9043

落敏大大_9043

发布时间:2026-02-02 11:33:23

|

455人浏览过

|

来源于php中文网

原创

直接用 Microsoft.Extensions.RateLimiting 是因它已内置线程安全、分布式支持的令牌桶实现,手写易遗漏竞态处理、时间精度和突发流量逻辑;核心参数需结合接口响应时间设定,如 PermitLimit 对应最大并发数,TokensPerPeriod 与 ReplenishmentPeriod 共同决定平均吞吐,QueueLimit 应根据超时容忍度合理设置。

c# 接口限流的实现 c# 令牌桶算法和漏桶算法

为什么直接用 Microsoft.Extensions.RateLimiting 而不是手写令牌桶

ASP.NET Core 7+ 内置的限流中间件已默认采用令牌桶(TokenBucketRateLimiter)实现,且做了线程安全、跨请求共享、支持分布式(配合 IDistributedCache)等关键优化。手写容易漏掉:Interlocked 竞态处理、滑动窗口时间精度、突发流量下的令牌预分配逻辑。除非你明确需要自定义填充策略(比如按 CPU 使用率动态调速),否则不建议从零实现。

TokenBucketRateLimiter 的核心配置参数怎么设才合理

关键参数不是“桶大小”和“填充速率”两个数字,而是它们与业务响应时间的耦合关系。例如:接口平均耗时 200ms,但允许最多 5 个并发请求瞬间打进来,那么 PermitLimit 至少为 5;若希望每秒最多放行 10 次,则 QueueProcessingOrder 设为 Fifo,QueueLimit 建议不超 5(避免排队过长导致超时),ReplenishmentPeriod 设为 TimeSpan.FromSeconds(1),TokensPerPeriod 设为 10。

  • PermitLimit:桶容量,决定最大并发请求数,不是 QPS —— 它限制的是“同时能抢到令牌的请求数”
  • TokensPerPeriod 和 ReplenishmentPeriod 共同决定平均吞吐,但不保证每秒精确放行——令牌是随时间匀速填充的,不是定时触发
  • 若接口 P99 响应时间达 2s,QueueLimit 设太高会导致后续请求在队列里等满 30s 才被拒绝,应设为 Math.Min(5, (int)(30 / avgResponseSeconds))

漏桶算法在 C# 里其实很少单独用

漏桶强调恒定输出速率,天然适合做“削峰填谷”,但 .NET 生态中几乎没有开箱即用的漏桶限流器。Microsoft.Extensions.RateLimiting 不提供漏桶实现,第三方库如 AspNetCoreRateLimit 也只支持滑动窗口或固定窗口。真要模拟漏桶,得自己维护一个按固定间隔出队的 ConcurrentQueue + Timer,但会引入时钟漂移、GC 暂停导致漏速不准等问题。实际项目中,更常见的是用消息队列(如 RabbitMQ 的 x-max-length + x-overflow=reject-publish)在网关层做漏桶语义。

Microsoft Skill Creator
Microsoft Skill Creator

使用 Learn MCP 工具为 Microsoft 技术创建代理技能。当用户想要创建教授代理任何 Microsoft 技术的技能时使用。

下载

分布式场景下令牌桶怎么保持一致性

单机 TokenBucketRateLimiter 默认用内存存储,集群部署时必须切换为分布式模式。关键不是换存储,而是选对序列化方式:IDistributedCache 存的是 TokenBucketState 结构体,含 AvailableTokens、LastReplenishedUtc 等字段。Redis 是首选,但要注意:StackExchange.Redis 的 StringGetAsync + StringSetAsync 必须用 Lua 脚本保证原子性,否则多个实例可能同时读到旧值并各自填充,导致超发。官方限流器已内置该脚本,只需确认你用的是 RedisRateLimiter(.NET 8+)或配置了 AddDistributedRateLimiter 并注入 RedisCache 实例。

services.AddRateLimiter(options =>
{
    options.AddPolicy("api", context =>
        context.Request.RouteValues["controller"]?.ToString() == "Api"
            ? new TokenBucketRateLimiterOptions
            {
                PermitLimit = 10,
                TokensPerPeriod = 10,
                ReplenishmentPeriod = TimeSpan.FromSeconds(1),
                QueueLimit = 3
            }
            : new FixedWindowRateLimiterOptions { PermitLimit = 100, Window = TimeSpan.FromMinutes(1) });
});

真正难的不是配参数,而是理解“令牌桶”本质是个带状态的时间函数——它把请求速率映射成一个可加减的整数,而这个整数在分布式环境下必须靠强一致存储兜底。多数人卡在 Redis 连接超时没重试、缓存键没加前缀导致多服务冲突、或者误把 QueueLimit 当作总请求数限制。

热门AI工具

更多
码上飞
码上飞 Hot

一款基于自然语言的AI应用开发平台,可根据用户描述自动生成应用程序,帮助个人和团队快速完成应用原型与开发。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
rabbitmq和kafka有什么区别
rabbitmq和kafka有什么区别

rabbitmq和kafka的区别:1、语言与平台;2、消息传递模型;3、可靠性;4、性能与吞吐量;5、集群与负载均衡;6、消费模型;7、用途与场景;8、社区与生态系统;9、监控与管理;10、其他特性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

664

2024.02.23

Java 消息队列与异步架构实战
Java 消息队列与异步架构实战

本专题系统讲解 Java 在消息队列与异步系统架构中的核心应用,涵盖消息队列基本原理、Kafka 与 RabbitMQ 的使用场景对比、生产者与消费者模型、消息可靠性与顺序性保障、重复消费与幂等处理,以及在高并发系统中的异步解耦设计。通过实战案例,帮助学习者掌握 使用 Java 构建高吞吐、高可靠异步消息系统的完整思路。

1148

2026.01.28

RabbitMQ使用教程合集
RabbitMQ使用教程合集

RabbitMQ使用教程合集整理 RabbitMQ 基础教程、消息队列开发案例、生产者消费者、交换机与队列实战内容。

224

2026.05.20

RabbitMQ集群部署指南
RabbitMQ集群部署指南

RabbitMQ集群部署指南聚合 RabbitMQ 集群部署、高可用架构、镜像队列、故障恢复、监控与运维优化内容。

137

2026.05.20

RabbitMQ Docker实战指南
RabbitMQ Docker实战指南

RabbitMQ Docker实战指南提供 RabbitMQ Docker 镜像部署、Docker Compose、Kubernetes Operator 与云原生实践教程。

162

2026.05.20

什么是分布式
什么是分布式

分布式是一种计算和数据处理的方式,将计算任务或数据分散到多个计算机或节点中进行处理。本专题为大家提供分布式相关的文章、下载、课程内容,供大家免费下载体验。

2153

2023.08.11

分布式和微服务的区别
分布式和微服务的区别

分布式和微服务的区别在定义和概念、设计思想、粒度和复杂性、服务边界和自治性、技术栈和部署方式等。本专题为大家提供分布式和微服务相关的文章、下载、课程内容,供大家免费下载体验。

3554

2023.10.07

什么是中间件
什么是中间件

中间件是一种软件组件,充当不兼容组件之间的桥梁,提供额外服务,例如集成异构系统、提供常用服务、提高应用程序性能,以及简化应用程序开发。想了解更多中间件的相关内容,可以阅读本专题下面的文章。

709

2024.05.11

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

0

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn