讲师中心 微信公众号
AI工具推荐 视频效率加速

如何批量向MySQL数据库中导入千万级的CSV数据?

陌婷同学_8461

陌婷同学_8461

发布时间:2026-06-29 08:07:49

|

224人浏览过

|

来源于php中文网

原创

LOAD DATA INFILE/LOCAL INFILE 比循环 INSERT 快10倍以上,但需解决 secure_file_priv 限制、local_infile 开关、分隔符与转义配置、编码与BOM、字段对齐及截断预警等问题。

如何批量向mysql数据库中导入千万级的csv数据?

直接用 LOAD DATA INFILE 或 LOAD DATA LOCAL INFILE,别写循环 INSERT —— 速度差 10 倍以上,且容易卡死或超时。

为什么 LOAD DATA INFILE 报错 “The MySQL server is running with the --secure-file-priv option”?

这不是你路径写错了,是 MySQL 主动拦住了文件读取。它只允许从 secure_file_priv 指定目录读文件。

  • 查当前限制:SHOW VARIABLES LIKE 'secure_file_priv'; —— 返回空值('')才能读任意路径;返回路径(如 /var/lib/mysql-files/)就必须把 CSV 放进去
  • 临时放开(仅开发环境):在 my.cnf(Linux)或 my.ini(Windows)的 [mysqld] 段加 secure_file_priv = "",然后重启 MySQL
  • 生产环境别清空该值,而是把 CSV 文件复制到返回的目录下再执行导入

LOAD DATA LOCAL INFILE 总提示 “The used command is not allowed” 怎么办?

这是服务端和客户端两头都没开 local_infile,不是权限问题,是开关没拨对。

QuickBooks Mileage CSV
QuickBooks Mileage CSV

使用 qbo-mileage CLI 及用户凭证,从 Airtable、Outlook 或 Google Calendar 记录生成 QuickBooks Online 里程 CSV 文件。

下载
  • 服务端启用:SET GLOBAL local_infile = ON;(需 SUPER 权限)
  • 客户端连接时必须显式开启:命令行加 --local-infile=1;Python 用 pymysql.connect(..., local_infile=True);Java JDBC URL 加 &allowLoadLocalInfile=true
  • 某些云数据库(如阿里云 RDS)默认禁用且不开放 SUPER 权限,只能走 LOAD DATA INFILE + 上传文件到服务器指定目录

CSV 字段对不上、最后一列多出 \r、时间字段报错?全是分隔符和转义没配对

错误通常不是语法错,而是 MySQL 没切准字段边界,尤其 Windows 生成的 CSV 和含引号/换行的数据。

  • LINES TERMINATED BY:Linux/macOS 用 '\n',Windows 记事本保存的用 '\r\n';否则最后一列会带 \r,导致类型转换失败
  • FIELDS TERMINATED BY ',' ENCLOSED BY '"' 适用于标准 CSV;但如果字段里有未转义的逗号(如地址“北京市,朝阳区”),必须加 OPTIONALLY ENCLOSED BY '"' 并确保所有字段都用双引号包住
  • 时间字段(如 "2024-03-15 14:22:08")不能直插:要用 SET created_at = STR_TO_DATE(@created_at, '%Y-%m-%d %H:%i:%s') 显式转换
  • 跳过表头:加 IGNORE 1 LINES;但若 CSV 第一行不是纯字段名(比如含 BOM 或空格),先用 Notepad++ 转成 UTF-8 无 BOM 编码

导入后发现数据截断、警告一堆 “Row N was truncated”?

说明某行字段数 ≠ 表列数,或者某字段内容超长被静默截断 —— LOAD DATA 不报错,只给 warning,极易漏检。

  • 先用 head -n 5 your.csv | cat -A(Linux)或 Notepad++ 显示所有字符,检查是否有隐藏换行、多余逗号、未闭合引号
  • 建表时字段长度留足余量,比如 VARCHAR(255) 比 VARCHAR(50) 更容错;数值型字段优先用 DECIMAL 而非 INT 防溢出
  • 导入前加 SET sql_mode = 'STRICT_TRANS_TABLES';,让截断直接报错中断,而不是沉默丢数据
  • 导入完立刻查:SELECT COUNT(*) FROM your_table; 和原始 CSV 行数比对;再查 SHOW WARNINGS; 看具体哪几行出了问题

真正麻烦的不是命令怎么写,而是 CSV 文件本身是否“干净”——有没有嵌套换行、BOM、混合编码、字段内未转义引号。这些在千万行里藏一个,LOAD DATA 就全盘失效,还不会告诉你在哪一行。建议先导 100 行做验证,再放大批量。

热门AI工具

更多
火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
mysql修改数据表名
mysql修改数据表名

MySQL修改数据表:1、首先查看数据库中所有的表,代码为:‘SHOW TABLES;’;2、修改表名,代码为:‘ALTER TABLE 旧表名 RENAME [TO] 新表名;’。php中文网还提供MySQL的相关下载、相关课程等内容,供大家免费下载使用。

2293

2023.06.20

MySQL创建存储过程
MySQL创建存储过程

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用的语句分别为CREATE PROCEDURE和CREATE FUNCTION。使用CALL语句调用存储过程智能用输出变量返回值。函数可以从语句外调用(通过引用函数名),也能返回标量值。存储过程也可以调用其他存储过程。php中文网还提供MySQL创建存储过程的相关下载、相关课程等内容,供大家免费下载使用。

1399

2023.06.21

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

815

2023.07.18

mysql密码忘了怎么查看
mysql密码忘了怎么查看

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql密码忘了怎么办呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

3172

2023.07.19

mysql创建数据库
mysql创建数据库

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql怎么创建数据库呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

5388

2023.07.25

mysql默认事务隔离级别
mysql默认事务隔离级别

MySQL是一种广泛使用的关系型数据库管理系统,它支持事务处理。事务是一组数据库操作,它们作为一个逻辑单元被一起执行。为了保证事务的一致性和隔离性,MySQL提供了不同的事务隔离级别。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

1199

2023.08.08

sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

5651

2023.08.11

mysql忘记密码
mysql忘记密码

MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。那么忘记mysql密码我们该怎么解决呢?php中文网给大家带来了相关的教程以及其他关于mysql的文章,欢迎大家前来学习阅读。

4942

2023.08.14

Playwright 测试失败怎么办
Playwright 测试失败怎么办

Playwright测试失败专题汇集超时、定位器匹配、浏览器提前关闭、依赖与插件配置、文件上传、SSL及Docker启动等故障文章,并介绍通过截图、报告和Trace定位错误。

0

2026.10.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 188人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn