讲师中心 微信公众号
AI工具推荐 视频效率加速

如何批量上传CSV文件数据到MySql表中?使用 LOAD DATA 的一种非常快速的方法

云丽酱_3112

云丽酱_3112

发布时间:2024-08-19 17:28:52

|

1555人浏览过

|

来源于dev.to

转载

? 简介

您还在使用“for”或“while”循环来迭代行并将它们插入数据库吗?您还在编写单独的代码来读取 .csv 文件并将其上传到 mysql 数据库吗?

用mysql提供的“load data”语句对线性逻辑说“不”。准备好更改代码以最大程度地减少代码行并大幅提高性能。

mysql 提供了 load data 语句,这是一种非常高速的方法,可以用很少的代码从文本文件中读取数据并将其插入表中。

? 什么是 load data infile 语句?

根据 mysql 的官方文档,load data 语句用于以非常快的方式从文件中读取数据,您可以通过一个查询将此数据插入表中,而不是多次访问数据库多次使用“insert into”查询。

mysql还提供了一个语句-> "select…into outfile",它的作用与"load data"的作用完全相反,就是从表中读取数据到文件

mysql提供的mysqlimport实用程序内部调用服务器上的load data语句来导入数据。

MergeIQ: Automatically Score & Prioritise PR Complexity for GitLab and GitHub
MergeIQ: Automatically Score & Prioritise PR Complexity for GitLab and GitHub

使用四维度框架评估任意 GitLab MR 或 GitHub PR 的复杂度:规模(20%),认知负荷(30%),审查工作量(30%),风险/影响(20%)...

下载

? 如何使用它?

<script id="gist-ltag" src="https://gist.github.com/elpidaguy/dcca2278391fea34dbc76e7f4ce03f4d.js"></script><script id="gist-ltag" src="https://gist.github.com/elpidaguy/dcca2278391fea34dbc76e7f4ce03f4d.js"></script>

above gist snippet shows the generic load data statements. all the available options are mentioned in the code above.

lets now focus on a simple example of simply reading a .csv file and inserting it's rows into a compatible table.

a simple example :

load data infile ‘data.csv’ into table db.my_table

a birds-eye example with all essential options :

<script id="gist-ltag" src="https://gist.github.com/elpidaguy/5959a235458a38569c8f0a922cc2215e.js"></script>
上面的要点片段显示了通用负载数据语句。上面的代码中提到了所有可用的选项。

现在让我们关注一个简​​单的示例,简单地读取 .csv 文件并将其行插入到兼容的表中。

一个简单的例子:

load data infile ‘data.csv’ into table db.my_table
包含所有基本选项的鸟瞰示例: 不用说,您的 csv 文件应该正确格式化才能使此语句发挥作用。
瞧,使用上面的语句,你的超过 10 万行的 .csv 将在几秒钟内导入到你的表中。

现在,一些重要的事情需要注意:

上述语句在mysql级别运行,因此源文件从客户端复制到服务器以便导入它们。
这会带来一些安全问题,我们需要确保使用此代码时客户端-服务器连接的安全。

在mysql 8.0中,使用local的能力默认设置为false。由于您的服务器和客户端应配置为允许 local,因此有些人可能会遇到权限错误。

如果出现权限错误,我们需要通过启用

local_infile
:
来覆盖它

SET GLOBAL local_infile = true;

注意:覆盖此标志并不是安全解决方案,而是承认接受风险,您可以参考此文档以获取更多信息。

?‍? 结论 mysql load data 语句用于在非常短的时间内读取文件。

您可以将此代码与任何后端api一起使用来提供源文件。

源文件可以是任何文本文件,我们在本例中使用.csv。

load data local

通过mysql将源文件复制到您的服务器,因此需要在服务器端实施安全措施。如何批量上传CSV文件数据到MySql表中?使用 LOAD DATA 的一种非常快速的方法

mysqlimport

实用程序内部使用load data语句。

您可以通过在语句中添加ignore 1 lines来忽略csv中的标头。#??# #??##??##??# #??# ? 参考 #??# #??#官方文档#??# #??# #??#

热门AI工具

更多
蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

相关专题

更多
mysql修改数据表名
mysql修改数据表名

MySQL修改数据表:1、首先查看数据库中所有的表,代码为:‘SHOW TABLES;’;2、修改表名,代码为:‘ALTER TABLE 旧表名 RENAME [TO] 新表名;’。php中文网还提供MySQL的相关下载、相关课程等内容,供大家免费下载使用。

1893

2023.06.20

MySQL创建存储过程
MySQL创建存储过程

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用的语句分别为CREATE PROCEDURE和CREATE FUNCTION。使用CALL语句调用存储过程智能用输出变量返回值。函数可以从语句外调用(通过引用函数名),也能返回标量值。存储过程也可以调用其他存储过程。php中文网还提供MySQL创建存储过程的相关下载、相关课程等内容,供大家免费下载使用。

1159

2023.06.21

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

675

2023.07.18

mysql密码忘了怎么查看
mysql密码忘了怎么查看

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql密码忘了怎么办呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2432

2023.07.19

mysql创建数据库
mysql创建数据库

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql怎么创建数据库呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

3948

2023.07.25

mysql默认事务隔离级别
mysql默认事务隔离级别

MySQL是一种广泛使用的关系型数据库管理系统,它支持事务处理。事务是一组数据库操作,它们作为一个逻辑单元被一起执行。为了保证事务的一致性和隔离性,MySQL提供了不同的事务隔离级别。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

959

2023.08.08

sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

4231

2023.08.11

mysql忘记密码
mysql忘记密码

MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。那么忘记mysql密码我们该怎么解决呢?php中文网给大家带来了相关的教程以及其他关于mysql的文章,欢迎大家前来学习阅读。

3862

2023.08.14

AI视频生成软件推荐
AI视频生成软件推荐

本专题汇总了当前主流的AI视频生成软件推荐与排行榜单,涵盖seko、AniShort、剧云、Lovart、LiblibAI及立刻mv等热门工具。同时整理了各软件在文生视频、图生视频、时长限制、画质表现及免费额度等方面的差异对比,助您快速选对适合创作需求的AI视频生成工具。

160

2026.09.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 168人学习

使用phpenv集成环境安装极致CMS
使用phpenv集成环境安装极致CMS

共2课时 | 268人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn