本文介绍一种高效、可扩展的并发调度方案：通过为每类“颜色”事件维护独立队列，并由共享线程池中的工作者线程按需消费，确保同色事件严格串行、跨色事件并行，同时遵守全局线程数上限。
本文介绍一种高效、可扩展的并发调度方案：通过为每类“颜色”事件维护独立队列，并由共享线程池中的工作者线程按需消费，确保同色事件严格串行、跨色事件并行，同时遵守全局线程数上限。
在高吞吐事件处理场景中（如实时日志归类、订单状态更新、IoT设备指令分发），常需满足“同类型串行、不同类型并行”的语义约束。直接改造 ThreadPoolExecutor 的出队逻辑（如自定义 BlockingQueue 的 poll()）不仅复杂、易出错，还可能破坏线程池内部的状态一致性（如 activeCount、workQueue 与 workers 的协同）。更稳健且工程友好的解法是职责分离 + 分层调度：引入一个轻量级分发器（Dispatcher），将原始事件流按“颜色”哈希到多个逻辑队列，再由固定大小的线程池统一消费这些队列——每个线程独占消费一个队列，天然保证同色事件 FIFO 串行执行。
核心设计：分发器 + 颜色队列池 + 共享工作线程
import java.util.concurrent.*;
import java.util.concurrent.atomic.AtomicInteger;
public class ColorAwareEventProcessor {
// 全局线程池：控制最大并发数（如 8）
private final ThreadPoolExecutor executor;
// 每种颜色对应一个无界 LinkedBlockingQueue
private final ConcurrentMap<String, BlockingQueue<Runnable>> colorQueues = new ConcurrentHashMap<>();
// 记录当前正在处理某颜色的线程（用于避免重复分发）
private final ConcurrentMap<String, AtomicInteger> activeWorkers = new ConcurrentHashMap<>();
public ColorAwareEventProcessor(int maxThreads) {
this.executor = new ThreadPoolExecutor(
maxThreads, maxThreads,
0L, TimeUnit.MILLISECONDS,
new SynchronousQueue<>(),
new ThreadFactory() {
private final AtomicInteger counter = new AtomicInteger(0);
@Override
public Thread newThread(Runnable r) {
Thread t = new Thread(r, "color-worker-" + counter.incrementAndGet());
t.setDaemon(true);
return t;
}
}
);
}
// 分发事件：根据 color 路由到对应队列，并触发（或复用）worker
public void submit(String color, Runnable task) {
BlockingQueue<Runnable> queue = colorQueues.computeIfAbsent(color, k -> new LinkedBlockingQueue<>());
queue.offer(task);
// 尝试启动一个 worker 处理该 color 队列（若尚未活跃）
activeWorkers.computeIfAbsent(color, k -> new AtomicInteger(0))
.updateAndGet(v -> v == 0 ? 1 : v); // CAS 确保仅启动一次
// 提交 worker 任务：循环消费本 color 队列，直到空闲
executor.submit(() -> {
try {
Runnable r;
while ((r = queue.poll()) != null) {
r.run();
}
} finally {
// 工作结束，原子递减活跃计数
AtomicInteger cnt = activeWorkers.get(color);
if (cnt != null && cnt.decrementAndGet() == 0) {
activeWorkers.remove(color);
}
}
});
}
public void shutdown() {
executor.shutdown();
try {
if (!executor.awaitTermination(30, TimeUnit.SECONDS)) {
executor.shutdownNow();
}
} catch (InterruptedException e) {
executor.shutdownNow();
Thread.currentThread().interrupt();
}
}
}关键优势与注意事项
- ✅ 强顺序保证：每个颜色队列由单一线程独占消费，LinkedBlockingQueue 本身是线程安全 FIFO 结构，无需额外同步。
- ✅ 动态资源复用：数十种颜色共用固定线程池，空闲线程自动转向新颜色队列；无需为每色预分配线程。
- ✅ 低延迟响应：事件到达即入队，worker 立即启动（若空闲）或快速接续，避免传统 ExecutorService 的“竞争式出队”带来的调度延迟。
- ⚠️ 避免过度提交：submit() 中每次调用都提交一个 worker 任务，但实际执行受 activeWorkers 控制——同一 color 只允许一个活跃 worker，防止线程爆炸。
- ⚠️ 内存与 GC 考量：大量颜色可能导致 ConcurrentMap 占用增长，可结合 WeakReference 或 LRU 清理策略（如 colorQueues 定期清理空闲超时队列）。
- ? 扩展建议：若事件含优先级，可在 BlockingQueue 替换为 PriorityBlockingQueue 并定制 Comparator；若需限流，可在分发器层集成 RateLimiter。
该方案摒弃了侵入线程池底层的高风险做法，转而利用 Java 并发原语构建清晰、可测试、易监控的调度拓扑，是处理“分组有序+全局并发限制”问题的工业级推荐实践。
