直接在任务提交前加限速控制更安全灵活,核心是节制任务入队动作:可用Semaphore按变量维度(如用户ID)每秒配额限流,搭配定时清理防泄漏;或用RateLimiter令牌桶实现平滑限速,支持突发流量稳定吞吐;亦可在执行阶段通过重写beforeExecute动态调控;还可结合Dubbo Filter在RPC层统一拦截并透传限速结果。

直接在任务提交前加一层限速控制,比修改线程池本身更安全、更灵活。核心思路是:不靠压低线程数硬限流,而是对“任务进入队列”这个动作做节制。
用信号量(Semaphore)做每秒任务配额
适合对某类关键变量(如用户ID、订单号、接口路径)按单位时间限速的场景。例如限制每个用户每秒最多提交3个查询任务:
- 声明一个ConcurrentHashMap<String, Semaphore>,key为变量标识(如"uid_12345"),value为对应信号量
- 初始化时设置permits=3,公平模式可选
- 提交任务前调用semaphore.tryAcquire(),成功才submit;失败则走降级(返回缓存、延迟重试或拒绝)
- 搭配定时清理过期key(比如10分钟无访问的uid自动移除Semaphore),避免内存泄漏
基于令牌桶实现平滑限速
比信号量更贴近真实流量模型,尤其适合突发流量下保持稳定吞吐。可用Guava的RateLimiter或自研轻量桶:
- 为每个变量创建独立RateLimiter,如RateLimiter.create(5.0)表示每秒5个令牌
- 任务提交前调用limiter.tryAcquire(),返回true才进线程池;false时可sleep再重试,或直接丢弃
- 注意RateLimiter不是线程安全的跨实例共享对象,每个变量需独占一个实例
- 若变量维度高(如百万级用户),建议配合LRUMap限制最大缓存数量,避免OOM
在线程池执行阶段拦截并动态调节
适用于需要根据运行时指标(如队列积压、响应延迟)反向调控特定变量任务的场景:
- 继承ThreadPoolExecutor,重写beforeExecute()方法,在真正执行前检查该任务所属变量的当前负载
- 维护一个ConcurrentMap<String, AtomicLong>记录各变量最近10秒已执行任务数,超阈值则抛出RejectedExecutionException触发拒绝策略
- 配合CallerRunsPolicy,让提交线程自己执行任务,天然形成背压,避免队列无限堆积
- 拒绝后可记录日志+上报监控,用于后续容量评估
与Dubbo等框架协同限速
如果变量来自RPC上下文(如Dubbo的attachment),可在Filter层统一拦截:
- 编写自定义Dubbo Filter,在invoke前提取关键变量(如method、appKey)
- 查本地限速规则(可从Apollo/Nacos动态加载),匹配后走上述任一限速逻辑
- 把限速结果通过RpcContext.getServerAttachment()透传到服务端,服务端线程池再做二次校验
- 这样限速逻辑与业务代码解耦,且支持灰度开关和实时生效

















