讲师中心 微信公众号
AI工具推荐 视频效率加速

Python lance 的列式存储格式应用

胖瑶小哥_5977

胖瑶小哥_5977

发布时间:2026-02-21 18:37:00

|

1108人浏览过

|

来源于php中文网

原创

必须用lance库读写.lance文件,不可用pandas或pyarrow原生方法;需pip install lance(非lancedb);读取用lance.dataset(),写入须显式提供schema;filter仅支持基础表达式;数据集不可变,删改需重写。

python lance 的列式存储格式应用

lance 文件读写要用 lance 库,不是 pyarrow 或 pandas 原生支持

Python 里直接用 pandas.read_parquet 或 pyarrow.parquet.read_table 打不开 .lance 文件——它压根不是 Parquet,而是 LanceDB 自研的列式格式,依赖自己的 C++ 后端。不装 lance 包,连 import 都会报 ModuleNotFoundError。

实操建议:

  • 必须 pip install lance(注意不是 lancedb,后者是数据库封装层,带额外依赖)
  • lance 目前只支持 Python 3.9+,macOS/Linux 稳定;Windows 上得用 WSL 或等 wheel 更新
  • 读取时别用 pd.read_parquet("data.lance"),正确写法是:
    import lance<br>dataset = lance.dataset("data.lance")<br>table = dataset.to_table()
  • 如果表很大,to_table() 会全量加载进内存;想流式读或条件过滤,用 dataset.scanner(filter=...)

写入 lance 数据集要显式指定 schema,不能靠 pandas 自推

lance.write_dataset 不接受裸 DataFrame,也不自动 infer schema。传个没定义 schema 的表进去,会报 ValueError: Schema must be provided,而不是默默处理。

常见错误现象:把清洗好的 df 直接扔给 lance.write_dataset(df, "out.lance"),结果失败。

立即学习“Python免费学习笔记(深入)”;

实操建议:

  • 先用 pa.schema(...) 显式构造 schema,尤其注意时间类型得用 pa.timestamp("us") 而非 pa.timestamp("s")(Lance 默认微秒精度)
  • 字符串列推荐用 pa.string(),别用 pa.large_string()(Lance 当前不支持)
  • 写入示例:
    import pyarrow as pa<br>import lance<br><br>schema = pa.schema([<br>    pa.field("id", pa.int64()),<br>    pa.field("text", pa.string()),<br>    pa.field("ts", pa.timestamp("us"))<br>])<br>lance.write_dataset(df, "out.lance", schema=schema)
  • 如果 df 已有 Arrow 表结构(比如从 parquet 读来的),可直接取 df.schema 复用,但务必检查字段类型是否兼容

filter 查询快,但不支持所有 SQL-like 表达式

Lance 的 scanner(filter=...) 能下推谓词、跳过行组,比 Pandas 全表过滤快得多。但它不是 SQL 引擎——像 "col LIKE '%abc%'" 或嵌套函数调用("upper(col) == 'X'")会直接报错或静默降级为全扫。

python学习
python学习

Python 编程学习助手 skill,面向零基础用户。 当用户表达以下意图时触发: - 学习 Python 基础概念(变量、数据类型、循环、函数、类等) - 请求 Python 练习题或测验 - 请求审查或调试 Python 代码 - 请求 Python 项目实战指导(爬虫、数据分析、Web 开发等入门项目) - 泛化表述如"教我 Python""我想学编程""Python 怎么写""帮我学 Python" 此 skill

下载

使用场景:适合等值查询("id == 123")、范围("ts > '2024-01-01'")、in-list("tag in ('a', 'b')")。

实操建议:

  • filter 字符串必须是 Lance 支持的表达式语法,参考其 Expression 文档,别套用 Pandas query 习惯
  • 字符串匹配只支持 == 和 !=,不支持 str.contains 类操作;模糊匹配得靠外部预处理或向量检索
  • 数值比较要注意类型对齐,比如 "score > 0.5" 中 score 是 int16,就得写成 "score > 0.5f" 或转成 float32 schema
  • 复杂逻辑拆成多步:先 filter 主键范围,再用 Pandas 处理剩余列的计算

删除和更新只能通过 overwrite + filter 实现,没有原地修改

Lance 数据集是不可变的(immutable)。所谓“删除某几行”,本质是读出满足条件的行,再写回一个新数据集——旧文件不会被擦除,得手动清理或靠版本管理。

容易踩的坑:以为 dataset.delete("id == 123") 是就地删,结果发现磁盘空间没少,甚至查不到变化。

实操建议:

  • 真要删,得用 lance.write_dataset 写新路径,再删旧目录;或者用 dataset.version().restore() 回滚(前提是开了 versioning)
  • 更新某列?没 UPDATE 语句。得:读表 → set_column 或 append_column → 写新 dataset
  • 高频小更新不适合 Lance;它适合“写一次,读多次”的分析场景。日更批量替换比单条 upsert 更稳
  • 如果必须支持行级变更,考虑上层加 Delta Lake 或 Iceberg 封装,别硬刚 Lance 底层

schema 定义和 filter 表达式的边界最易被忽略——写错一个类型或语法,错误信息往往不直观,得翻 C++ 日志或看 GitHub issues 才能定位。

热门AI工具

更多
创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

4563

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

951

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

1189

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

6541

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

3303

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

6500

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

8921

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

1210

2024.04.29

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

100

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn