Redis负责全局限流决策,线程池仅执行放行后的业务处理;需用专用有界线程池隔离核心接口,并配合滑动窗口Lua脚本与本地缓存兜底防雪崩。

线程池本身不直接参与分布式限流判断,它和 Redis 是分工协作的关系:Redis 负责「全局状态一致性」(谁、在什么时间窗口内访问了多少次),线程池负责「本地任务调度与资源隔离」(避免限流检查或后续业务逻辑因阻塞、超时拖垮整个应用)。两者配合,才能在高并发下稳住核心接口。
明确角色分工:Redis管决策,线程池管执行
限流的核心判断必须由 Redis 完成——因为只有它能保证所有服务实例看到同一份计数。线程池不参与“是否放行”的判定,而是承接“被放行后”的请求处理:
- Redis(配合 Lua 脚本或 Redisson)完成原子化限流校验:如 INCR + EXPIRE 组合、滑动窗口 ZSET 计算、或令牌桶 tryAcquire
- 若 Redis 返回“允许”,该请求才进入业务线程池;若拒绝,直接返回 429,不占用线程资源
- 线程池不用于“排队等待限流窗口释放”,那是反模式——限流的目的就是快速拒绝,而非堆积请求
用专用线程池隔离限流后业务逻辑
核心接口一旦被放行,其后续处理(如查库、调第三方、更新 Redis 状态)可能耗时或存在异常风险。应将其提交至独立配置的线程池,避免挤占 Tomcat 或全局线程池:
- 定义命名线程池(如 coreApiThreadPool),设置合理核心/最大线程数(建议基于接口平均 RT 和目标吞吐反推,例如:目标 1000 QPS、平均耗时 200ms → 需约 200 线程)
- 使用有界队列(如 ArrayBlockingQueue(100)),防止突发流量导致 OOM
- 配置拒绝策略为 CallerRunsPolicy:当队列满时,由调用线程(如 Web 容器线程)自己执行任务,起到自然降速作用,比直接丢弃更可控
- 务必设置线程名称前缀(如 "core-api-pool-" + i),便于日志追踪与监控
Redis 实现推荐:滑动窗口 + Lua 原子脚本
固定窗口有临界突刺问题,漏桶不适合突发场景,令牌桶在纯 Redis 原生实现中较重。滑动窗口(基于 ZSET)兼顾精度与性能,适合保护核心变量类接口(如用户余额变更、库存扣减):
- Key 设计:sliding:uid:balance:update(按用户+操作维度隔离)
- 每次请求存入 ZSET:ZADD key now_ms request_id,score 为毫秒时间戳
- 过期清理:ZREMRANGEBYSCORE key -inf (now_ms - window_ms)
- 计数判断:ZCARD key ,全部操作封装进一个 Lua 脚本保证原子性
- 示例阈值:1 分钟内最多 30 次余额更新操作,窗口滑动粒度为毫秒级,无统计偏差
防雪崩增强:本地缓存 + 快速失败兜底
Redis 故障时,不能让所有请求 fallback 到数据库。需加入两级保护:
- 在限流检查前,加一层 Caffeine 本地缓存(如 cache.getIfPresent("block:uid:123")),命中即快速拒绝,减轻 Redis 压力
- Redis 连接超时或报错时,启用降级策略:记录告警日志,并根据预设规则(如最近 1 分钟错误率 > 5%)自动开启「熔断开关」,临时走宽松限流(如每分钟 5 次)或直接拒绝
- 对核心变量操作,建议在业务层再做一次幂等校验(如基于唯一业务单号去重),避免因网络重试导致重复变更


















