讲师中心 微信公众号
AI工具推荐 视频效率加速

利用Pandas和NumPy高效构建坐标DataFrame

千宇同学_5887

千宇同学_5887

发布时间:2025-11-11 11:17:21

|

640人浏览过

|

来源于php中文网

原创

利用pandas和numpy高效构建坐标dataframe

本文详细介绍了两种从现有DataFrame和索引列表构建新坐标DataFrame的方法。首先通过迭代字典构建,然后利用Pandas的`from_dict`方法实现。接着,重点阐述了如何运用NumPy的向量化操作,以更简洁、高效的方式直接从原始数据中提取并重构所需的X、Y坐标对。文章旨在提供清晰的教程,帮助用户根据数据规模和性能需求选择最合适的实现策略。

在数据处理和分析中,我们经常需要根据一系列索引或映射关系,从一个大型数据结构中提取特定数据点,并将其组织成新的结构。本教程将以一个具体场景为例,演示如何从一个包含节点信息(如X、Y坐标)的Pandas DataFrame中,根据一个由索引对组成的列表,高效地构建一个新的坐标DataFrame。最终目标是为路径规划或可视化准备数据。

场景描述

假设我们有一个名为 df 的DataFrame,它存储了多个节点的详细信息,包括 X 和 Y 坐标:

    Node       X      Y  Demand  Profit
1      2  5.7735   0.00    40.0    16.0
2      3  2.8867   5.00    40.0    16.0
3      4 -2.8868   5.00    40.0    16.0
... (其他节点数据)

同时,我们还有一个名为 tours 的列表,其中包含了一系列子列表,每个子列表是一个长度为2的整数对,例如 [0, 4]。这个整数对的第一个元素代表在 df 的 X 列中要查找的行索引(基于位置 iloc),第二个元素代表在 df 的 Y 列中要查找的行索引。需要注意的是,这两个索引可能指向 df 中的不同行。

我们的任务是创建一个新的DataFrame coord,它只有 X 和 Y 两列,每一行对应 tours 中的一个索引对所确定的 X, Y 坐标。

方法一:迭代构建与字典转换

这种方法通过遍历 tours 列表,逐一提取对应的 X 和 Y 值,然后将它们存储在一个字典中,最后将字典转换为DataFrame。

1. 初始化数据

首先,我们定义示例数据:

import pandas as pd
import numpy as np

tours = [[0, 4], [0, 5], [0, 6], [1, 13], [2, 0], [3, 8], [4, 9], [5, 10],
         [6, 7], [7, 1], [8, 2], [9, 3], [10, 11], [11, 14], [12, 0], [13, 12], [14, 0]]

# 原始DataFrame,这里为了演示,使用简化版,实际数据可能更多
data = {
    'Node': [2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16],
    'X': [5.7735, 2.8867, -2.8868, -5.7735, -2.8867, 2.8868, 8.6603, 0.0000, -8.6603, -8.6603, 0.0000, 8.6603, 5.3405, 3.3198, 6.4952],
    'Y': [0.00, 5.00, 5.00, 0.00, -5.00, -5.00, 5.00, 10.00, 5.00, -5.00, -10.00, -5.00, 0.75, 4.25, -1.25],
    'Demand': [40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 10.0, 10.0, 10.0],
    'Profit': [16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 24.0, 24.0, 24.0, 24.0, 10.0, 10.0, 11.0]
}
df = pd.DataFrame(data, index=range(len(data['Node']))) # 确保索引从0开始,方便iloc使用
print("原始DataFrame df:")
print(df)

2. 迭代与字典填充

通过 for 循环遍历 tours 列表,使用 enumerate 获取当前迭代的索引 t,这可以作为新字典的键。对于每个 tour 元素,tour[0] 用于查找 df 的 X 列中的值,tour[1] 用于查找 df 的 Y 列中的值。这里使用 .iloc[] 进行基于位置的索引。

# 方法一:迭代构建与字典转换
d = {}
for t, tour in enumerate(tours):
    xi = tour[0] # X坐标在df中的行索引
    yi = tour[1] # Y坐标在df中的行索引

    # 从df中根据iloc索引提取X和Y值
    x_val = df["X"].iloc[xi]
    y_val = df["Y"].iloc[yi]

    d[t] = (x_val, y_val)

print("\n构建的字典 d:")
print(d)

3. 字典转换为DataFrame

构建好字典 d 后,可以使用 pd.DataFrame.from_dict() 方法将其转换为DataFrame。关键在于设置 orient='index',这表示字典的键将成为DataFrame的索引,而值(这里是元组 (x_val, y_val))将作为行数据。同时,通过 columns=['X', 'Y'] 参数明确指定新DataFrame的列名。

huaweicloud-python-sdk-helper
huaweicloud-python-sdk-helper

华为云 Python SDK 查询工具。自动发现已安装 SDK 的服务包、Client类、API 方法、入参详情、类信息(__init__ 参数、属性、类型、描述),支持关键字搜索,快速定位目标 API 使用方法。

下载
coord_iterative = pd.DataFrame.from_dict(d, orient='index', columns=['X', 'Y'])
print("\n方法一生成的coord DataFrame:")
print(coord_iterative)

这种方法直观易懂,代码逻辑清晰,适用于理解每一步操作的场景,尤其是在数据量不大时。

方法二:NumPy 向量化操作

对于大规模数据,使用NumPy的向量化操作通常能提供显著的性能提升和更简洁的代码。这种方法避免了显式的Python循环。

1. 准备NumPy数组

首先,将 tours 列表转换为NumPy数组,以便进行高效的切片和索引操作。同时,将 df 中需要提取的 X 和 Y 列也转换为NumPy数组,这可以减少Pandas Series的开销。

# 方法二:NumPy 向量化操作
tours_np = np.array(tours)
# 提取df中X和Y列的数据为NumPy数组
# 注意:df的索引需要与tours中的索引匹配,这里df的索引是0-based
df_xy_values = df[["X", "Y"]].to_numpy()

print("\ntours_np 数组:")
print(tours_np)
print("\ndf_xy_values 数组 (X和Y列):")
print(df_xy_values)

2. 向量化索引与DataFrame构建

NumPy允许使用数组作为索引。tours_np[:, 0] 提取了 tours 中所有子列表的第一个元素(即用于查找X的索引),tours_np[:, 1] 提取了所有子列表的第二个元素(即用于查找Y的索引)。

  • df_xy_values[tours_np[:, 0], 0]:
    • tours_np[:, 0] 得到一个一维数组,包含了所有X坐标的行索引。
    • df_xy_values[...] 使用这些行索引从 df_xy_values 中选择行。
    • , 0 表示从这些选定的行中,进一步选择第0列(即原始的 X 值)。
  • df_xy_values[tours_np[:, 1], 1]:
    • tours_np[:, 1] 得到一个一维数组,包含了所有Y坐标的行索引。
    • df_xy_values[...] 使用这些行索引从 df_xy_values 中选择行。
    • , 1 表示从这些选定的行中,进一步选择第1列(即原始的 Y 值)。

最后,将这两个结果数组直接传入 pd.DataFrame 构造函数,并指定列名。

# 使用NumPy的高级索引直接提取X和Y值
# tours_np[:, 0] 获取所有X的索引
# tours_np[:, 1] 获取所有Y的索引
# df_xy_values[行索引, 列索引]
x_coords = df_xy_values[tours_np[:, 0], 0]
y_coords = df_xy_values[tours_np[:, 1], 1]

coord_vectorized = pd.DataFrame({"X": x_coords, "Y": y_coords})
print("\n方法二生成的coord DataFrame (NumPy 向量化):")
print(coord_vectorized)

这种方法极其高效,尤其是在处理大量数据时,因为它充分利用了NumPy底层C语言实现的优化。代码也更为紧凑。

对比与选择

  • 迭代构建与字典转换:
    • 优点:逻辑清晰,易于理解和调试。
    • 缺点:对于非常大的数据集,Python的循环开销可能导致性能瓶颈。
  • NumPy 向量化操作:
    • 优点:性能卓越,代码简洁,是处理大型数值数据集的首选方法。
    • 缺点:对于初学者来说,NumPy的高级索引可能需要一些时间来理解。

在实际应用中,如果数据量不大,两种方法都可以接受。但如果追求极致性能或处理GB级别的数据,强烈推荐使用NumPy向量化方法。

注意事项

  1. 索引类型:本教程中,df.iloc[] 和 NumPy 索引都依赖于基于位置的整数索引。请确保 tours 中的索引值与 df 的实际行位置匹配。如果 df 有自定义索引且您希望按标签查找,则需要使用 df.loc[] 并可能需要一个从标签到位置的映射。
  2. 数据类型:确保从 df 中提取的 X 和 Y 列是数值类型,以便后续的计算或绘图。
  3. 内存效率:NumPy向量化方法在某些情况下可能需要一次性分配较大的内存来存储中间结果,但通常其速度优势会弥补这一点。

总结

本教程展示了两种在Pandas和NumPy中,根据索引列表从现有DataFrame中提取并构建新坐标DataFrame的有效方法。迭代构建方法提供直观的实现,而NumPy向量化方法则提供了卓越的性能和代码简洁性。理解并掌握这两种技术,将有助于您更灵活、高效地处理数据,为后续的数据可视化(如绘制路径)奠定坚实的基础。根据您的具体需求和数据规模,选择最适合的方法,可以显著提高开发效率和程序性能。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

320

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

252

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

571

2026.04.13

数据类型有哪几种
数据类型有哪几种

数据类型有整型、浮点型、字符型、字符串型、布尔型、数组、结构体和枚举等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2971

2023.10.31

php数据类型
php数据类型

本专题整合了php数据类型相关内容,阅读专题下面的文章了解更多详细内容。

554

2025.10.31

c语言 数据类型
c语言 数据类型

本专题整合了c语言数据类型相关内容,阅读专题下面的文章了解更多详细内容。

502

2026.02.12

treenode的用法
treenode的用法

​在计算机编程领域,TreeNode是一种常见的数据结构,通常用于构建树形结构。在不同的编程语言中,TreeNode可能有不同的实现方式和用法,通常用于表示树的节点信息。更多关于treenode相关问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2541

2023.12.01

C++ 高效算法与数据结构
C++ 高效算法与数据结构

本专题讲解 C++ 中常用算法与数据结构的实现与优化,涵盖排序算法(快速排序、归并排序)、查找算法、图算法、动态规划、贪心算法等,并结合实际案例分析如何选择最优算法来提高程序效率。通过深入理解数据结构(链表、树、堆、哈希表等),帮助开发者提升 在复杂应用中的算法设计与性能优化能力。

356

2025.12.22

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

100

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn