讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在SQL Server中通过BULK INSERT快速导入超大CSV文件?

星强君_1026

星强君_1026

发布时间:2026-10-20 11:57:22

|

409人浏览过

|

来源于php中文网

原创

SQL Server中高效批量插入需用BULK INSERT或SqlBulkCopy,配合TABLOCK、临时切换为BULK_LOGGED恢复模式、禁用约束与触发器、预排序数据、禁用非聚集索引,并显式设置字段/行终止符等,以减少日志、锁争用和I/O开销。

如何在sql server中通过bulk insert快速导入超大csv文件?

直接用 BULK INSERT 导入超大 CSV 文件,关键不是“能不能快”,而是“不加控制就一定会卡住或失败”。SQL Server 默认行为对大文件极不友好,必须显式关闭约束、锁定表、跳过日志开销,否则导入中途可能因日志爆满、锁升级或内存耗尽而中断。

必须禁用的默认行为:CHECK 约束、触发器与逐行日志

默认情况下,BULK INSERT 会逐行校验 CHECK 约束、执行触发器,并写完整事务日志——这对 GB 级 CSV 是灾难性的。实际导入前要主动绕过这些:

  • IGNORE_CONSTRAINTS 和 IGNORE_TRIGGERS 只在 OPENROWSET(BULK) 中作为表提示生效,BULK INSERT 不支持;必须改用 CHECK_CONSTRAINTS = OFF 和 FIRE_TRIGGERS = OFF(注意:这是 WITH 子句参数,不是表提示)
  • TABLOCK 强制表级锁,避免锁升级导致阻塞,且启用最小日志记录(前提是恢复模式为 SIMPLE 或 BULK_LOGGED)
  • 确保数据库恢复模式不是 FULL,否则日志会暴涨;临时切到 BULK_LOGGED 是常见做法,但导入后需立即做日志备份

CSV 格式参数必须显式指定,不能依赖 FORMAT='CSV'

FORMAT = 'CSV' 看似方便,但它只在 Azure SQL Database / Azure SQL 托管实例中完全支持,在本地 SQL Server 2019 及更早版本中不识别该选项,会报错 Incorrect syntax near 'CSV'。稳妥做法是手动声明分隔符和引号:

QuickBooks Mileage CSV
QuickBooks Mileage CSV

使用 qbo-mileage CLI 及用户凭证,从 Airtable、Outlook 或 Google Calendar 记录生成 QuickBooks Online 里程 CSV 文件。

下载
  • 用 FIELDTERMINATOR = ',' 明确字段分隔符
  • 用 FIELDQUOTE = '"' 处理带逗号或换行的字段(注意:SQL Server 2017+ 才支持 FIELDQUOTE)
  • 用 ROWTERMINATOR = '0x0a'(Linux 换行)或 '\n'(Windows 下推荐用 '0x0d0a')避免首行/末行解析错位
  • 若 CSV 含 BOM,必须加 CODEPAGE = '65001',否则中文字段开头可能出现乱码字符

超大文件要分批,但 ROWS_PER_BATCH 不等于“每批提交”

ROWS_PER_BATCH 只影响统计估算和内存分配,**不会自动分事务提交**。它不改变单条 BULK INSERT 语句的原子性——失败仍需全量回滚。真正可控的分批导入需结合外部脚本(如 PowerShell + sqlcmd),按行号切片调用多次 BULK INSERT:

  • 先用 SELECT COUNT(*) FROM OPENROWSET(BULK 'file.csv', ...) 预估总行数(仅限小样本)
  • 用 FIRSTROW 和 LASTROW 参数分段,例如每次处理 50 万行:FIRSTROW = 1, LASTROW = 500000;下一批设为 FIRSTROW = 500001
  • 注意:CSV 首行是标题时,FIRSTROW 必须从 2 开始,否则标题会被当数据插入
  • 分批后务必在每批次之间加 CHECKPOINT 或手动 BACKUP LOG,防止日志无限制增长

错误处理不能只靠 ERRORFILE,得提前验证文件结构

ERRORFILE 只捕获格式错误行(如列数不匹配),但对类型转换失败(如把文本 'abc' 插入 INT 列)默认直接报错中断。更危险的是:某些隐式转换(如空字符串转 DATETIME)会产生非预期值而非报错。

  • 导入前用 SELECT TOP 10 * FROM OPENROWSET(BULK 'file.csv', ...) 抽样检查字段类型是否对齐
  • 目标表所有非空列,CSV 对应列不能全为空;否则 KEEPNULLS 不生效,会填默认值甚至插入失败
  • MAXERRORS 设太大会掩盖真实问题,建议初试设为 10,确认稳定后再调高
  • 如果文件来自外部系统,优先让对方提供 .fmt 格式文件,比硬编码分隔符更可靠

最常被忽略的一点:Azure Blob Storage 场景下,FROM 路径必须走 DATA SOURCE,不能直接写 SAS URL;本地文件路径则必须是 SQL Server 进程有权限访问的路径(不是你登录用户的路径),哪怕只是 UNC 路径,也得确认服务账户有读取权限。

热门AI工具

更多
音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

相关专题

更多
sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

5611

2023.08.11

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2725

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

3941

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

3011

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

967

2023.09.05

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

2647

2023.10.09

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

2647

2023.10.16

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

2893

2023.10.16

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

60

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn