讲师中心 微信公众号
AI工具推荐 视频效率加速

C#读写Parquet文件 C#如何处理大数据列式存储Parquet格式

秋宇小哥_5186

秋宇小哥_5186

发布时间:2026-03-14 10:30:41

|

481人浏览过

|

来源于php中文网

原创

ParquetSharp是目前C#生态中稳定支持Parquet读写的主流方案,基于Apache Arrow C++实现,支持.NET 6+,推荐按列读取、显式指定压缩编码、注意DateTime和decimal类型兼容性,并避免全量加载大文件。

c#读写parquet文件 c#如何处理大数据列式存储parquet格式

用 ParquetSharp 读写 Parquet 文件最可行

目前 C# 生态中稳定支持 Parquet 读写的主流方案是 ParquetSharp(基于 Apache Arrow C++ 实现的 .NET 绑定),而非已停止维护的 parquet-dotnet。它支持 .NET 6+,能处理百万行以上数据,且列式读取逻辑清晰。

安装方式:dotnet add package ParquetSharp。注意:Windows 用户需确保运行时有 vcruntime140.dll 和 msvcp140.dll(Visual C++ 2015–2022 运行库),否则加载 ParquetSharp.Native 会失败。

  • 不推荐用 Microsoft.Data.Analysis 直接读 Parquet——它底层依赖 ParquetSharp,但封装过深,列过滤、类型映射、内存控制都不透明
  • 避免手动解析二进制:Parquet 是复杂嵌套格式,含页压缩、字典编码、统计信息等,自行解析极易出错且无性能优势
  • ParquetSharp 默认启用 Snappy 压缩;若文件是 Gzip 或 Zstd 编码,需在 WriterProperties 中显式指定解码器

读取时按需加载列,别全量 ReadTable()

大数据场景下,ParquetFileReader.ReadTable() 会把整个文件解压并转成内存表,极易 OOM。正确做法是只读关键列:

C#
C#

"避开 C# 常见错误——空陷阱、异步陷阱、LINQ 陷阱及资源泄漏。"

下载
using var reader = new ParquetFileReader("data.parquet");
var schema = reader.Schema;
// 只读第0列(如 "user_id")和第2列(如 "amount")
var columnIndices = new[] { 0, 2 };
using var table = reader.ReadTable(columnIndices);
  • 列索引必须对应 schema 中顺序,不能用字段名直接查——先调 schema.GetFieldIndex("col_name") 获取索引
  • 如果只需某列的统计值(如最大值),可用 ColumnChunkMetaData 直接读 footer 里的 Statistics,完全跳过数据解压
  • 对超大文件(>1GB),建议配合 RowGroupReader 分批读:每个 RowGroup 是独立压缩块,可并行处理

DateTime 和 decimal 类型容易错位

Parquet 标准对时间与高精度数字的编码有多种逻辑,C# 绑定默认行为可能和 Python/Java 写入端不一致:

  • DateTime:Parquet 常用 INT96 或 INT64 + TIMESTAMP_MILLIS 编码。ParquetSharp 默认按 TIMESTAMP_MICROS 解析,若源文件是毫秒级,需在 ReadOptions 中设 UseLegacyTimestamps = true
  • decimal:.NET 的 decimal 和 Parquet 的 DECIMAL(基于 INT32/INT64/INT128)不是一一映射。读取时若精度丢失,应改用 BigInteger 或字符串暂存,再按 scale 手动除法还原
  • 枚举字段写入前务必转为 int 或 string,Parquet 不原生支持 .NET enum

写入性能差?关掉默认压缩或换编码

默认 Snappy 压缩在吞吐量敏感场景反而拖慢写入,尤其当 CPU 成瓶颈时:

var props = new WriterProperties(
    compression: CompressionMethod.Uncompressed, // 关压缩
    dictionaryPageSizeThreshold: 0 // 禁用字典编码,适合高基数列
);
using var writer = new ParquetFileWriter("out.parquet", schema, props);
  • 小文件(Zstd(需额外引用 ZstdSharp 并注册 NativeCodec)
  • 字符串列若重复值多,保留字典编码(默认开启),但要设 dictionaryPageSizeThreshold 防止单页过大
  • 写入前确保 schema 中每列的 LogicalType 明确(如 LogicalType.Decimal(precision, scale)),否则读取端可能当成普通整数

真正麻烦的是跨语言协作——Python 用 pyarrow 写的 Parquet,常带 __index_level_0__ 列或自定义元数据,C# 读时得手动跳过这些非业务字段。别指望“自动兼容”,得看 footer 里的 KeyValueMetadata 具体写了啥。

热门AI工具

更多
Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

花生AI
花生AI Hot

一款AI视频创作工具,主要用于B站推出的AI视频创作工具,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

码上飞
码上飞 Hot

一款基于自然语言的AI应用开发平台,可根据用户描述自动生成应用程序,帮助个人和团队快速完成应用原型与开发。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
c#是什么意思
c#是什么意思

C#是一种通用的面向对象编程语言,它在.NET框架上运行,可用于开发各种类型的应用程序。本专题为大家提供c#相关的各种文章、以及下载和课程。

1132

2023.08.08

什么是c#
什么是c#

C#(读作C Sharp)是一种现代的、通用的、面向对象的编程语言。它由微软公司开发,于2000年首次发布,主要用于开发Windows桌面应用程序、Web应用程序、移动应用程序以及游戏开发等领域。C#是一种类型安全和托管的编程语言,它结合了C++的强大性能和C语言的简单易学特点,并引入了许多新的特性和概念,如委托、属性、泛型和异步编程等,以提高开发效率和代码可维护性。

3371

2023.08.31

C#中base关键字的用法
C#中base关键字的用法

在C#中,base关键字用于访问当前类的基类成员,这包括基类的字段、属性、方法、构造函数、索引器以及事件。想了解更多C#的相关内容,可以阅读本专题下面的文章。

945

2024.03.13

C#Task用法
C#Task用法

Task在C#中是用于表示异步操作的对象,它位于System.Threading.Tasks命名空间中。想了解更多C#中各种用法的相关内容,可以阅读本专题下面的文章。

2655

2024.03.14

C# 并发与异步编程
C# 并发与异步编程

本专题系统讲解 C# 异步编程与并发控制,重点介绍 async 和 await 关键字、Task 类、线程池管理、并发数据结构、死锁与线程安全问题。通过多个实战项目,帮助学习者掌握 如何在 C# 中编写高效的异步代码,提升应用的并发性能与响应速度。

352

2026.02.03

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

429

2026.02.06

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

631

2026.03.11

C# Unity游戏开发与ECS架构实践
C# Unity游戏开发与ECS架构实践

本专题聚焦 C# 在 Unity 游戏开发中的应用,系统讲解 ECS(Entity-Component-System)架构设计、游戏对象管理、性能优化与内存控制策略。通过实际游戏案例,帮助开发者构建高性能、结构清晰的游戏系统,提高游戏开发效率与运行性能。

329

2026.04.13

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

0

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn