讲师中心 微信公众号
AI工具推荐 视频效率加速

如何用 Numba 加速 Pandas/Numpy 中的逐行异或累积运算

大墨小哥_9673

大墨小哥_9673

发布时间:2026-01-12 11:10:13

|

534人浏览过

|

来源于php中文网

原创

如何用 Numba 加速 Pandas/Numpy 中的逐行异或累积运算

本文介绍如何将原始耗时分钟级的 for 循环异或累积(bitwise_xor accumulate)操作,通过 numba jit 编译优化至毫秒级,适用于 80 万+ 行的大型结构化数据处理。

在 Pandas 或 NumPy 中实现逐行依赖的异或累积(如:row[i+1, j+1] = row[i, j] ^ row[i+1, j])时,若使用纯 Python 的 for 循环配合 .loc 索引,性能会急剧下降——尤其在 83 万行规模下可能耗时超过 60 秒。根本原因在于:Pandas 的链式索引(.loc)存在高开销,且 Python 解释器无法高效执行此类内存局部性良好的数值迭代。

最优解:Numba JIT 编译 + 原地数组操作

核心思路是绕过 Pandas DataFrame 的抽象层,直接操作底层 NumPy 数组,并利用 Numba 的 @njit 装饰器将循环编译为机器码。以下为完整、可复现的加速方案:

提示词大师-python版
提示词大师-python版

图片提示词生成器?不止如此。 马甲系统 —— 把脑海中的画面,翻译成AI能理解的专业表达。 用得越多,它越懂你:首次需要多问几句确认方向,用久了几乎一说就懂。 用得越多,它越快:缓存机制让后续对话越来越省。 RAG进化:成功案例持续入库,越跑越聪明。 输入「新手指南」查看完整功能介绍

下载
from numba import njit
import numpy as np
import pandas as pd

@njit
def xor_accumulate_inplace(arr):
    """
    对二维 int8 数组执行原地异或累积:
    arr[i+1, j+1] = arr[i, j] ^ arr[i+1, j]
    适用于 'what' 列作为起始种子,逐列向右传播异或状态。
    """
    n_rows, n_cols = arr.shape
    for i in range(n_rows - 1):          # 遍历除最后一行外的所有行
        for j in range(n_cols - 1):      # 遍历除最后一列外的所有列
            arr[i + 1, j + 1] ^= arr[i, j]  # 原地异或更新(等价于 +=,但为 ^)

# 示例数据构建(dtype=int8 提升缓存效率)
np.random.seed(42)
df = pd.DataFrame(
    np.random.randint(0, 16, size=(100000, 10), dtype=np.int8),
    columns=['what', 'dx1', 'dx2', 'dx3', 'dx4', 'dx5', 'dx6', 'dx7', 'dx8', 'dx9']
)

# 初始化:仅首行保留原始值,其余行从第二列开始置零(符合原始问题模式)
df.iloc[1:, 1:] = 0

# 执行加速计算(直接传入底层 ndarray)
xor_accumulate_inplace(df.values)  # 注意:传入 df.values,非 df.copy().values!

print(df.head())

✅ 关键优势说明:

  • 速度提升超 1600 倍:实测 100 万行 × 10 列数据,Numba 版本仅需 ~0.044 秒,而原生 Pandas 循环达 73 秒;
  • 内存零拷贝:df.values 返回视图(view),@njit 函数直接修改原数组,避免中间副本;
  • 类型特化:Numba 在编译时推断 int8 类型,生成紧凑指令,显著优于通用 object 或 float64;
  • 逻辑精准匹配需求:该双循环严格复现了原始问题中“上一行左邻值异或当前行左邻值 → 赋给当前行右邻位”的依赖关系。

⚠️ 注意事项:

  • 确保输入数组 dtype 为整型(推荐 np.int8 或 np.uint8),Numba 对浮点或 object 类型支持有限;
  • @njit 默认禁用 Python 对象(如 list、dict),所有逻辑必须基于 NumPy 数组和标量运算;
  • 若需保留原始 DataFrame 结构(如列名、索引),请勿对 df.copy().values 操作,否则结果不写回原表;
  • 首次调用 xor_accumulate_inplace() 会有编译延迟(JIT warm-up),后续调用均为毫秒级。

? 进阶提示:
对于超大规模数据(如千万行),可进一步结合 numba.prange 启用并行化(添加 parallel=True 参数及 from numba import prange),但需确保循环间无数据依赖——本例因严格行间依赖,不可并行化,故保持串行双循环即为理论最优。

综上,当面对 Pandas 中无法向量化但具有强局部依赖的累积运算(如异或、加权递推、状态机更新)时,Numba 是兼具简洁性、正确性与极致性能的首选方案。

热门AI工具

更多
超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

300

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

212

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

351

2026.04.13

PixTV AI视频生成与无限画布创作
PixTV AI视频生成与无限画布创作

PixTV专题整理AI视频与视觉内容创作相关功能使用教程,涵盖AI生图、视频生成、无限画布、多模型创作、素材管理、声音音乐及视频剪辑等功能,帮助用户快速掌握PixTV从创意到成片的完整制作方法。

0

2026.09.29

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

200

2026.09.23

Buffalo框架路由与请求处理实操指南
Buffalo框架路由与请求处理实操指南

本专题讲解Buffalo框架路由与请求处理机制,涵盖路由注册与分组、资源路由、Handler编写规范、Context上下文方法、参数绑定、中间件编写挂载、Session与Cookie读写、Flash消息及错误页面定制方法。

100

2026.09.23

Buffalo框架零基础入门教程
Buffalo框架零基础入门教程

本专题整理Buffalo框架入门内容,涵盖Go环境准备、buffalo CLI安装、新项目生成、目录结构说明、dev热加载启动、数据库连接配置与常见报错排查,帮助新手按约定优于配置的思路跑通第一个Buffalo框架应用。

80

2026.09.23

Conan创建软件包配方指南
Conan创建软件包配方指南

本专题介绍通过conanfile.py创建软件包的方法,讲解包名、版本、依赖和构建设置等基础信息,以及source、build、package、package_info等常用方法的作用及编写思路。

60

2026.09.22

Conan二进制包配置指南
Conan二进制包配置指南

本专题介绍Conan根据操作系统、编译器、架构和构建类型生成二进制包的方法,讲解Profile、Settings、Options及Package ID的作用,帮助管理不同平台和编译环境下的包版本。

60

2026.09.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn