Chunk方法最简单但需.NET 6+,否则用GetRange手动分片并防越界;大数据应避免全量加载,改用分页或流式读取;异步分批须限流防资源耗尽。

用 Chunk 方法最简单,但要注意 .NET 版本
从 .NET 6 开始,List<t></t> 和其他可枚举类型可以直接用 Chunk 方法按固定长度切分,返回 IEnumerable<t></t>。它内部做了边界处理,空列表、长度为 0 或负数时会抛出 ArgumentException,这点比手写循环更可靠。
常见错误是直接在 .NET 5 或更早项目里调用,编译不通过——因为 Chunk 是 System.Linq 命名空间下新增的扩展方法,需要 .NET 6+ 或手动引入 System.Linq 的高版本 NuGet 包(不推荐,易引发兼容问题)。
- 如果目标框架是 .NET 6+,直接写:
list.Chunk(100) - 如果必须支持 .NET 5 或更低,别硬凑
Chunk,改用下面的手动分片逻辑 -
Chunk返回的是只读数组T[],不是List<t></t>,后续要Add就得先转成List
手动分片:用 GetRange + 循环,注意索引越界
这是最通用、兼容性最强的做法,适用于所有 .NET 版本。核心是控制起始索引和长度,每次取 list.GetRange(start, count),但 count 不能超过剩余元素数,否则抛 ArgumentOutOfRangeException。
典型翻车场景:循环里直接写 list.GetRange(i, size),没判断 i + size > list.Count,一到末尾就崩。
- 正确写法:每次计算实际要取的数量,
int actualSize = Math.Min(size, list.Count - i); - 起始索引
i每次递增size,不是actualSize(否则漏元素) - 不要用
for (int i = 0; i 然后无条件 <code>GetRange(i, size)——这是最常写的错法
大数据分批处理时,避免一次性加载全部数据到内存
如果原始数据来自数据库或文件流,别先 ToList() 再分片。比如 EF Core 查询后立刻 .ToList(),几百万条记录全进内存,GC 压力大,还可能 OOM。
更合理的做法是结合分页查询(如 Skip/Take)或游标式读取(如 SqlDataReader),边读边处理,每批固定数量做业务逻辑。
- EF Core 分页示例:
context.Orders.Skip(page * size).Take(size).ToList(),注意Skip在大数据量下性能差,生产环境优先用游标(WHERE id > lastId) - 文件流场景:用
StreamReader逐行读,计数器到size就触发一批处理,不清空缓冲区,不缓存全文本 - 别把
Chunk当银弹——它只是切内存里的集合,不解决源头数据加载方式的问题
异步分批处理:别让 Task.WhenAll 把线程池拖垮
很多人想“加速”,把每批丢进 Task.Run 或 Task.WhenAll 并发执行。但没控速的话,几百批同时跑,线程池饥饿、数据库连接池耗尽、API 被限流都是分分钟的事。
真实系统里,分批 + 异步 ≠ 全量并发。关键是要节流。
- 用
SemaphoreSlim限制最大并发数,比如只允许 4 批同时处理:await semaphore.WaitAsync()+finally { semaphore.Release(); } - 避免在循环里直接
Task.Run(() => ProcessBatch(batch)),这样无法 await 也无法控速 - 如果批处理本身是 I/O 密集(如 HTTP 请求、DB 查询),优先用真正的 async/await 方法,而不是包一层
Task.Run
分片逻辑看着简单,但和运行环境、数据来源、下游承载力绑得太紧。最容易被忽略的是:你以为在分“List”,其实真正该拆的是数据获取过程本身。


















