讲师中心 微信公众号
AI工具推荐 视频效率加速

利用Sublime Text将不规则CSV数据快速清洗并导入Sqlite3数据库

梦晨君_4258

梦晨君_4258

发布时间:2026-07-04 09:39:50

|

933人浏览过

|

来源于php中文网

原创

Sublime Text 无法直接导入不规则 CSV 到 SQLite,因其仅为文本编辑器,无数据清洗、类型推断或 .import 命令执行能力;需先在 Sublime 中统一编码、修复引号、校验表头,再通过 sqlite3 或 sqlite-utils 导入。

利用sublime text将不规则csv数据快速清洗并导入sqlite3数据库

直接用 Sublime Text 导入不规则 CSV 到 SQLite 是行不通的——它没有内置清洗或类型推断能力,也不能执行 .import 命令。但 Sublime 可以作为高效的数据预处理编辑器,配合命令行工具完成整个流程。关键在于:先在 Sublime 里“看清楚、改干净”,再交给 sqlite3 或 sqlite-utils 执行导入。

为什么不能直接在 Sublime 里“一键导入”

Sublime Text 是纯文本编辑器,不是数据库客户端。即使装了 SublimeSQL 插件,它只支持 SQL 查询和语法高亮,不支持 CSV 解析、字段对齐、编码转换或数据清洗。你看到的 CSV 文件如果存在以下情况,Sublime 本身无法自动修复:

  • 字段数不一致(某行多一个逗号,导致列错位)
  • 含换行符的字段未用双引号包裹(如地址字段含 )
  • 中文是 GBK 编码但被误读为 UTF-8(显示乱码,后续导入必失败)
  • 首行表头缺失或字段名含空格/特殊字符(如 user id,SQLite 默认不认)

用 Sublime 清洗不规则 CSV 的实操要点

目标不是“美化”,而是让 CSV 达到 sqlite3 .import 或 sqlite-utils insert 能稳定解析的最低标准。重点操作包括:

QuickBooks Mileage CSV
QuickBooks Mileage CSV

使用 qbo-mileage CLI 及用户凭证,从 Airtable、Outlook 或 Google Calendar 记录生成 QuickBooks Online 里程 CSV 文件。

下载
  • 统一编码:用 Sublime 的 File → Reopen with Encoding → UTF-8 强制转码;若仍乱码,说明原始是 GBK,需选 GBK 再另存为 UTF-8(注意不要选 UTF-8 with BOM,SQLite 会拒识)
  • 可视化分隔符:启用 View → Show Whitespaces,确认字段间是纯英文逗号(,),而非全角逗号、分号或制表符
  • 修复引号包裹:对含逗号、换行、双引号的字段,手动或正则批量补全双引号。例如用正则 ^([^,]*),([^,]*),(.*)$ 匹配三列,再替换为 "$1","$2","$3"(需结合实际列数调整)
  • 删空行 & 表头校验:用 Find → Find All 搜 ^$ 删除所有空行;确保第一行是完整、无缺失的字段名,且不含前导/尾随空格

清洗后导入 SQLite 的两种可靠路径

清洗完保存为 clean.csv,接下来选一种方式执行导入。别跳过验证步骤:

  • 用原生命令行(零依赖):
    打开终端,进入 CSV 所在目录,运行:
    sqlite3 my.db ".mode csv" ".import clean.csv my_table"
    ⚠️ 注意:my_table 必须已存在,且列数、顺序、类型要与 CSV 匹配;否则报 expected 5 columns but found 6 错误
  • 用 sqlite-utils(推荐,自动建表):
    先安装:pip install sqlite-utils
    再执行:sqlite-utils insert my.db my_table clean.csv --detect-types
    ✅ 它会自动识别数字、布尔、日期,并设为 INTEGER/REAL/TEXT;加 --pk=id 还能设主键

最容易被忽略的三个坑

90% 的失败都卡在这三点,且错误信息极不直观:

  • sqlite3 的 .import 默认把所有字段当 TEXT 处理,即使 CSV 里全是数字,查 SELECT typeof(age) 也会返回 text —— 如果你需要数值计算,必须提前建好带正确类型的表
  • Windows 路径中反斜杠 在 .import 里会被当转义符,务必用正斜杠 / 或双反斜杠 \,例如 .import data/clean.csv my_table
  • Sublime 保存时若勾选了 Unix (LF) 换行,而原始 CSV 是 Windows (CRLF),sqlite-utils 可能误判最后一列为 "value ",导致插入失败或字段值带

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2745

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

3941

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

3051

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

967

2023.09.05

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

2667

2023.10.09

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

2667

2023.10.16

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

2893

2023.10.16

vb连接数据库的方法
vb连接数据库的方法

vb连接数据库的方法有使用ADO对象库、使用OLEDB数据提供程序、使用ODBC数据源等。详细介绍:1、使用ADO对象库方法,ADO是一种用于访问数据库的COM组件,可以通过ADO连接数据库并执行SQL语句。可以使用ADODB.Connection对象来建立与数据库的连接,然后使用ADODB.Recordset对象来执行查询和操作数据;2、使用OLEDB数据提供程序方法等等。

2481

2023.10.19

Playwright 测试失败怎么办
Playwright 测试失败怎么办

Playwright测试失败专题汇集超时、定位器匹配、浏览器提前关闭、依赖与插件配置、文件上传、SSL及Docker启动等故障文章,并介绍通过截图、报告和Trace定位错误。

0

2026.10.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn