不能直接用token字符串做限流key,因token刷新后变化导致同一用户被误判为多源,且长字符串易引发哈希冲突、增大内存与性能开销;应使用鉴权后的稳定业务标识如user_id或sub字段。

为什么不能直接用 token 字符串做限流 key
直接把原始 Authorization 头里的 JWT 或 API token 当作限流 key,会导致两个严重问题:一是 token 每次刷新都变,同一个用户被当成多个不同请求源;二是 token 往往很长(如 300+ 字符),作为 sync.Map 的 key 会显著增加哈希冲突和内存开销,影响 Load/Store 性能。
真正该用的是业务身份标识,比如鉴权后从 token 解析出的 X-User-ID 或数据库里的 user_id。如果没做鉴权,至少应提取 token 的前缀哈希(如 sha256(token)[:16]),但不推荐——它绕过了身份可信链。
- ✅ 推荐 key:已鉴权的
X-User-ID、sub字段、或下游服务返回的uid - ❌ 禁止 key:
c.GetHeader("Authorization")、完整 JWT 字符串、未校验的token参数 - ⚠️ 注意:若接口本身是匿名访问(如公开 API),应 fallback 到
c.ClientIP(),但需加 IP 哈希防伪造(如hash.Sum16(ip))
如何用 golang.org/x/time/rate 构建 per-user 限流器
rate.Limiter 本身不是并发安全的,但它的 Allow/WaitN 方法是线程安全的;真正要小心的是「按用户创建并复用」这个过程——必须用 sync.Map 缓存,且 key 必须稳定。
示例中常见错误是每次请求都 new 一个 rate.NewLimiter(10, 20),这不仅浪费内存,还会让限流完全失效(每个 limiter 都从满桶开始)。
- 用
sync.Map存储:key 是用户标识(如"user:123"),value 是*rate.Limiter - 速率
r和容量b应根据用户等级动态计算:VIP 用户可设r=100, b=300,普通用户用r=10, b=20 - 避免在中间件里调用
limiter.WaitN(ctx, 1)—— 它会阻塞 goroutine;改用limiter.Allow()立即返回 bool,配合c.AbortWithStatusJSON(429, ...)
Allow() 和 WaitN() 在 API 限流中的实际取舍
绝大多数 HTTP 接口不该用 WaitN(),因为它会让请求挂起直到拿到令牌,用户端感知为“卡住”或超时,而真实瓶颈可能只是瞬时抖动。生产环境更倾向快速失败。
Allow() 是零延迟判断:检查当前时刻桶里有没有 ≥1 个 token,有就扣减并返回 true,没有就立刻拒绝。它不关心“还要等多久”,只回答“现在能不能过”。
- 用
Allow():面向用户的 REST API、移动端回调、前端轮询接口 - 慎用
WaitN():内部服务间调用(如上游强依赖下游 QPS)、批处理任务调度(允许排队) - 注意:若真要用
WaitN(),务必传带 timeout 的context,例如ctx, cancel := context.WithTimeout(c.Request.Context(), 100*time.Millisecond),否则可能 hang 住整个 goroutine
桶容量 b 设太小会导致什么现象
当 b 等于 r(比如 NewLimiter(10, 10)),意味着桶里最多存 10 个 token,且每秒只补 10 个。一旦出现 11 个并发请求,第 11 个必被拒——哪怕前 10 个请求几乎同时到达、处理极快。这在真实流量中非常常见:网络抖动、GC 暂停、DB 查询延迟都会导致请求微突发。
桶容量本质是“容忍突发”的缓冲区。设为 r * 2~r * 3 是经验值,但关键要看业务 SLA:支付类接口可设低些(b = r * 1.5),搜索或上传类接口建议 b = r * 3 甚至更高。
- 现象:日志里高频出现
429 Too Many Requests,但平均 QPS 远低于r - 验证方式:用
ab -n 100 -c 50 http://localhost/ping压测,观察拒绝率是否异常高 - 修复动作:优先调大
b,而不是盲目提高r——后者可能压垮下游
实际部署时最容易被忽略的点是:限流 key 的生命周期和用户 session 不一致。比如用户登出后,其 user_id 对应的 limiter 仍长期留在 sync.Map 中,既占内存又无法清理。没有 TTL 机制的限流器,在长周期运行服务中会缓慢泄漏资源。


















