讲师中心 微信公众号
AI工具推荐 视频效率加速

怎样使用Load Data命令极速导入千万行外部数据到MySQL

轻强大大_2030

轻强大大_2030

发布时间:2026-10-25 11:13:29

|

276人浏览过

|

来源于php中文网

原创

ERROR 1148需开启local_infile(服务端设ON、客户端加--local-infile=1),ERROR 1290需将文件移至secure_file_priv指定目录再用LOAD DATA INFILE(不含LOCAL)。

怎样使用load data命令极速导入千万行外部数据到mysql

LOAD DATA INFILE 是唯一能真正把千万行数据压进秒级导入区间的方案,但 90% 的人卡在权限、路径或索引误操作上,不是命令慢,是没配对。

LOAD DATA INFILE 报 ERROR 1148 或 1290 怎么办

这两个错误本质是 MySQL 拒绝执行文件导入,不是语法错,而是启动态未放开:

  • ERROR 1148:服务端没开 local_infile,或客户端连的时候没带 --local-infile=1;检查 SELECT @@local_infile; 必须返回 ON
  • ERROR 1290:secure_file_priv 不为空(比如是 /var/lib/mysql-files/),但你传的路径不在该目录下;别改配置清空它,直接把 CSV 放进该目录再用 LOAD DATA INFILE(去掉 LOCAL)
  • 云数据库(如阿里云 RDS、AWS RDS)默认禁用 LOCAL INFILE 且无法开启——这时只能走 SFTP 上传到服务器本地,再用不带 LOCAL 的版本

字段类型不匹配导致静默跳过或 ERROR 1366

CSV 字段顺序、类型、NULL 约束必须和表定义完全一致,否则 MySQL 不报错也不提示,只跳过整行:

MySQL
MySQL

编写正确的MySQL查询,避免字符集、索引和锁方面的常见陷阱。

下载
  • 用 head -n 1 data.csv | od -c 看真实分隔符,Excel 导出常是 ; 或 \t,别硬写 FIELDS TERMINATED BY ','
  • 含换行符的文本字段(如用户评论)必须加 OPTIONALLY ENCLOSED BY '"',否则 MySQL 把换行当新记录
  • 时间字段如 "2024-03-15 14:22:08" 直接插 DATETIME 列会失败,得用 SET created_at = STR_TO_DATE(@created_at, '%Y-%m-%d %H:%i:%s')
  • 空字符串 "" 插入 NOT NULL 列会报错,补一句 SET col = NULLIF(@col, '')

为什么 SET unique_checks=0 和 DROP INDEX 都要干

InnoDB 表上 ALTER TABLE t DISABLE KEYS 是无效空操作,别信老教程。真正起效的是这两步组合:

  • 先关约束:SET unique_checks = 0; 和 SET foreign_key_checks = 0; —— 否则每行都触发唯一键校验和外键查找,而你刚删了索引,这些查找就是全表扫描
  • 再删非主键索引:DROP INDEX idx_name ON t1;(主键不能删)—— 边插边维护二级索引比批量重建慢 3–5 倍
  • 导入完立刻恢复:SET unique_checks = 1; 触发全表唯一性校验,如果源数据本身有重复,这里会报错;所以清洗必须在导入前完成
  • 最后用备份好的 DDL 重建索引,别等查询慢了才想起来建

导入后卡在 COMMIT 或索引重建怎么办

导入语句执行完不代表结束,InnoDB 还在后台刷脏页、合并索引页:

  • 导入前调大缓冲区:SET sort_buffer_size = 256M;、SET bulk_insert_buffer_size = 64M;(根据物理内存设,别超 25%)
  • 导入时显式控制事务:SET autocommit = 0;,语句后跟 COMMIT;,避免隐式提交拖慢吞吐
  • 别在导入中途查 SHOW PROCESSLIST 看“是不是卡住了”——LOAD DATA 是单线程同步操作,进度条靠日志或 INFORMATION_SCHEMA.INNODB_METRICS 查 buffer_pool_pages_dirty
  • 重建索引阶段最耗时,尤其没提前建好关联字段索引时,foreign_key_checks = 0 不跳过索引更新,只是跳过约束检查

真正容易被忽略的是:unique_checks = 0 期间不校验唯一性,但导入后 SET unique_checks = 1 会强制全表扫描校验——这一步可能比导入本身还慢,而且不可中断。数据清洗和索引重建顺序,比 LOAD DATA 语法本身更决定成败。

热门AI工具

更多
讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

4503

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

931

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

1169

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

6461

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

3243

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

6420

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

8781

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

1190

2024.04.29

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

20

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 190人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn