讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在合并列名不完全一致的 DataFrame 时保留原始数据类型

胖瑶小哥_5197

胖瑶小哥_5197

发布时间:2026-10-24 19:32:03

|

308人浏览过

|

来源于php中文网

原创

如何在合并列名不完全一致的 DataFrame 时保留原始数据类型

使用 pd.concat 合并列集不同的 DataFrame 时,默认会因填充 NaN 导致整数等类型降级为 float;本文介绍通过 convert_dtypes() 启用可空类型(如 Int64, string)或统一转为 object 类型,安全保留原始语义与类型完整性。

使用 `pd.concat` 合并列集不同的 dataframe 时,默认会因填充 nan 导致整数等类型降级为 float;本文介绍通过 `convert_dtypes()` 启用可空类型(如 `int64`, `string`)或统一转为 `object` 类型,安全保留原始语义与类型完整性。

在构建跨文件汇总表(例如从数十个含千列的源文件各取最后一行)时,一个核心挑战是:各文件列名存在部分差异(如 x, y, z 共有,但 a 仅在文件1出现、b 仅在文件2出现),而直接使用 pd.concat([df1, df2], ignore_index=True) 会导致缺失列被填入 NaN —— 这将强制原本为 int64 的列升级为 float64(因标准 NaN 是浮点型),破坏后续整数校验、导出或类型敏感处理逻辑。

✅ 推荐方案一:启用可空扩展类型(推荐默认选择)

调用 .convert_dtypes() 可将 NaN 映射为 pandas 的可空类型(nullable dtypes),例如:

  • int64 → Int64(支持 pd.NA)
  • string → string(非 object,支持 pd.NA)
  • bool → boolean
  • float64 → Float64

该方法既保持类型语义(Int64 仍表示“整数”,只是允许缺失),又避免精度丢失与隐式转换:

import pandas as pd

df1 = pd.DataFrame([(2, 3, True, "Test")], columns=["x", "y", "z", "a"])
df2 = pd.DataFrame([(4, 6)], columns=["x", "b"])

df3 = pd.concat([
    df1.convert_dtypes(),
    df2.convert_dtypes()
], ignore_index=True)

print(df3.dtypes)
# x       Int64
# y     Int64
# z    boolean
# a     string
# b       Int64
# dtype: object

print(df3)
#     x     y      z     a     b
# 0   2     3   True  Test  <NA>
# 1   4  <NA>  <NA>  <NA>     6

⚠️ 注意事项:

  • 若某列在不同 DataFrame 中实际混合了 int 和 float(如 df1["x"] = [2], df2["x"] = [4.5]),convert_dtypes() 仍会升为 Float64 —— 这是合理行为,因数值域已超出整数范围。
  • 警告 invalid value encountered in cast 通常源于尝试将含 pd.NA 的 Float64 列强转 int,不应忽略;应确保后续逻辑兼容 pd.NA(如用 isna() 而非 == np.nan)。
  • 关于弃用警告(FutureWarning: ... all-NA entries):只要所有参与 concat 的 DataFrame 非空(即至少有一行),该警告不会触发;若存在空 DataFrame,请先过滤:dfs_nonempty = [df for df in dfs if not df.empty]。

✅ 推荐方案二:统一转为 object 类型(最大兼容性)

当必须绝对保留原始值的 Python 类型对象(如 int(2), str("Test"), True),且不依赖向量化运算性能时,可强制全部转为 object:

df3 = pd.concat([
    df1.astype(object),
    df2.astype(object)
], ignore_index=True)

print(df3.dtypes)
# x    object
# y    object
# z    object
# a    object
# b    object
# dtype: object

print(df3.loc[0, "x"], type(df3.loc[0, "x"]))  # 2 <class 'int'>
print(df3.loc[1, "b"], type(df3.loc[1, "b"]))  # 6 <class 'int'>

✅ 优势:零类型妥协,int/str/bool 原样保留,NaN 表现为 np.nan(仍为 float,但仅作占位,不影响其他单元格类型)。
❌ 劣势:丧失数值计算优化、内存占用略高、无法使用 Int64 等专用方法(如 .fillna(0))。

? 不推荐的手动逐列填充方案

原文中提到的“先加空行→再逐单元格赋值”方式不仅低效(O(n²) 列操作)、易出错,还极易因隐式类型推断再次触发降级(如空字符串 "" 赋给新列后,再填 int 会转为 object 或 float)。应彻底避免。

总结建议

场景 推荐方法 说明
✅ 大多数情况(需类型语义 + 缺失支持) pd.concat(...).convert_dtypes() 安全、高效、符合 pandas 最佳实践
✅ 必须保留 Python 原始对象类型 pd.concat(...).astype(object) 牺牲性能换确定性,适合小规模汇总或下游为 Python 脚本
❌ 需要混合 int/float 但坚持用 int 列 不可行 —— 应修正数据源或接受 Float64 强制转 Int64 会引发 ValueError

最终,类型一致性始于设计:在读取原始文件时即调用 convert_dtypes(),并在整个 pipeline 中统一使用可空类型,可从根本上规避此类问题。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

320

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

252

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

631

2026.04.13

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

20

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

0

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

20

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

0

2026.10.22

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

20

2026.10.22

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn