讲师中心 微信公众号

工具推荐

视频效率加速
立刻MV
立刻MV

低成本歌曲 MV、视频生成

updream

一键生成高质量推广成片

AniShort
AniShort

AI短剧协同制作平台

Seko
Seko

AI短剧一键生成成片

Pandas整数类型默认行为与测试断言策略

酷宇同学_6024

酷宇同学_6024

发布时间:2025-09-25 12:10:24

|

318人浏览过

|

来源于php中文网

原创

pandas整数类型默认行为与测试断言策略

本文探讨了在64位Python环境中,Pandas Series在显式指定dtype=int时可能默认使用int32而非int64的问题,及其对DataFrame测试中严格类型检查的影响。文章提出了一种自定义的assert_frame_equiv函数作为解决方案,通过在比较前统一等效数据类型,实现了更灵活且鲁棒的DataFrame断言,避免了手动类型转换或完全禁用类型检查的弊端。

Pandas整数类型默认行为概述

在64位Python环境中,我们通常期望Pandas在处理整数数据时默认使用int64类型,以充分利用系统架构的优势并避免潜在的溢出问题。然而,实际操作中可能会观察到一些不一致的行为。例如,当创建一个pd.Series并显式指定dtype=int时,其数据类型可能被推断为int32,即使在不指定dtype而让Pandas自动推断时,它可能正确地选择int64。

import pandas as pd
import platform
import sys

# 验证Python环境为64位
assert platform.architecture()[0] == "64bit"
assert sys.maxsize > 2**32
print(f"Python环境:{platform.architecture()[0]}")

# 显式指定 dtype=int
series_int_explicit = pd.Series([1, 2, 3], dtype=int)
print(f"pd.Series([1,2,3], dtype=int) 的类型: {series_int_explicit.dtype}")

# 不指定 dtype,让Pandas自动推断
series_int_inferred = pd.Series([1, 2, 3])
print(f"pd.Series([1,2,3]) 的类型: {series_int_inferred.dtype}")

从上述代码的输出可以看出,即使在64位环境中,dtype=int的显式指定有时会导致Pandas选择int32,而自动推断则可能选择int64。这种差异本身可能不是一个功能性错误,因为int32足以存储大部分常见整数值,但在进行严格的DataFrame比较测试时,它会成为一个障碍。

严格的类型检查与测试挑战

Pandas提供了一个强大的测试工具pd.testing.assert_frame_equal,用于比较两个DataFrame是否相等。默认情况下,这个函数会执行非常严格的检查,包括数据类型(dtype)的精确匹配。这意味着,如果一个DataFrame的某一列是int32而另一个DataFrame的对应列是int64,即使它们包含相同的数值,assert_frame_equal也会因为类型不匹配而抛出AssertionError。

import pandas as pd

df_int32 = pd.DataFrame({'IntCol': [1, 2, 3], 'FloatCol': [0.5, 1.5, 2.5]})
df_int32['IntCol'] = df_int32['IntCol'].astype('int32')
df_int32['FloatCol'] = df_int32['FloatCol'].astype('float32')

df_int64 = pd.DataFrame({'IntCol': [1, 2, 3], 'FloatCol': [0.5, 1.5, 2.5]})
df_int64['IntCol'] = df_int64['IntCol'].astype('int64')
df_int64['FloatCol'] = df_int64['FloatCol'].astype('float64')

try:
    pd.testing.assert_frame_equal(df_int32, df_int64)
    print("DataFrame相等(包含类型)")
except AssertionError as err:
    print(f"断言失败:\n{err}")

输出清晰地表明,int32和int64被视为不同的类型,导致断言失败。虽然assert_frame_equal允许通过设置check_dtype=False来禁用类型检查,但这会使得测试失去对数据类型完整性的验证能力,从而可能掩盖潜在的问题。在许多场景下,我们希望验证数据内容和“等效”的数据类型,而非“精确”的数据类型。

自定义DataFrame等效性断言函数

为了解决上述问题,我们可以创建一个自定义的断言函数,它在比较DataFrame之前,将等效的数据类型(如int32和int64,或float32和float64)统一为同一种类型。这样既能保留类型检查的价值,又能允许在类型等效但具体位数不同的情况下通过测试。

以下是assert_frame_equiv函数的实现:

Gitguard Skill
Gitguard Skill

Git 安全扫描与仓库健康审计 — 基于熵的密钥检测、复合健康评分、提交质量分析、陈旧分支清理以及依赖扫描

下载
import pandas as pd
import numpy as np

def assert_frame_equiv(left: pd.DataFrame, right: pd.DataFrame) -> None:
    """
    在比较前将等效数据类型统一,以实现更灵活的DataFrame等效性断言。

    参数:
        left (pd.DataFrame): 左侧DataFrame。
        right (pd.DataFrame): 右侧DataFrame。

    Raises:
        AssertionError: 如果DataFrame不相等。
    """
    # 1. 首先检查列名是否相同(顺序不重要)
    pd.testing.assert_index_equal(left.columns, right.columns, check_order=False)

    # 创建DataFrame的副本以避免修改原始数据
    left_copy = left.copy()
    right_copy = right.copy()

    # 2. 遍历列,如果数据类型等效,则统一为右侧DataFrame的类型
    for col_name in left_copy.columns:
        lcol = left_copy[col_name]
        rcol = right_copy[col_name]

        # 检查是否为整数类型且等效(如int32 vs int64)
        is_lcol_int = pd.api.types.is_integer_dtype(lcol)
        is_rcol_int = pd.api.types.is_integer_dtype(rcol)

        # 检查是否为浮点类型且等效(如float32 vs float64)
        is_lcol_float = pd.api.types.is_float_dtype(lcol)
        is_rcol_float = pd.api.types.is_float_dtype(rcol)

        if (is_lcol_int and is_rcol_int) or (is_lcol_float and is_rcol_float):
            # 如果是等效的整数或浮点类型,则将左侧列转换为右侧列的dtype
            left_copy[col_name] = lcol.astype(rcol.dtype)
        # 对于其他不兼容或非数值类型,保持不变,让assert_frame_equal处理
        # 例如,如果一边是int,另一边是float,这里不会自动转换,
        # pd.testing.assert_frame_equal会因dtype不匹配而失败,这是期望的行为。

    # 3. 最后使用pd.testing.assert_frame_equal进行最终比较
    # check_like=True 允许列和行的顺序不同,但我们已经在前面检查了列名。
    # 这里的关键是经过类型统一后,dtype将匹配。
    return pd.testing.assert_frame_equal(left_copy, right_copy, check_like=True)

函数逻辑说明:

  1. 列名检查: 首先确保两个DataFrame具有相同的列名,这是进行后续比较的基础。check_order=False允许列顺序不同。
  2. 创建副本: 为了不修改原始DataFrame,对输入DataFrame进行深拷贝。
  3. 类型统一: 遍历DataFrame的每一列。如果两列都是整数类型(int32、int64等)或都是浮点类型(float32、float64等),则将左侧列的数据类型强制转换为右侧列的数据类型。这确保了在数值类型等效的情况下,它们的dtype能够匹配。pd.api.types.is_integer_dtype和pd.api.types.is_float_dtype是判断数据类型是否为整数或浮点的推荐方法。
  4. 最终断言: 在类型统一之后,调用标准的pd.testing.assert_frame_equal进行最终的比较。此时,由于等效类型已统一,dtype检查将通过。

示例与应用

让我们使用之前定义的df_int32和df_int64来测试assert_frame_equiv函数。

# 重新定义DataFrame以确保干净状态
a = pd.DataFrame({'Int': [1, 2, 3], 'Float': [0.57, 0.179, 0.213]})
# 强制为32位类型
b = a.copy()
b['Int'] = b['Int'].astype('int32')
b['Float'] = b['Float'].astype('float32')
# 强制为64位类型
c = a.copy()
c['Int'] = c['Int'].astype('int64')
c['Float'] = c['Float'].astype('float64')

print("使用pd.testing.assert_frame_equal进行比较:")
try:
    pd.testing.assert_frame_equal(b, c)
    print('成功:DataFrame相等')
except AssertionError as err:
    print(f'失败:\n{err}')

print("\n使用assert_frame_equiv进行比较:")
try:
    assert_frame_equiv(b, c)
    print('成功:DataFrame等效')
except AssertionError as err:
    print(f'失败:\n{err}')

通过assert_frame_equiv函数,尽管b和cDataFrame在内部使用了不同的整数和浮点位数,但由于它们的数据内容和等效类型一致,测试成功通过。这提供了一种在测试中处理灵活数据类型要求而又不完全牺牲类型检查的有效方法。

总结与展望

在64位Python环境中,Pandas Series在显式指定dtype=int时可能默认使用int32,这在与默认推断的int64或其他显式转换的类型进行严格比较时会引发问题。标准的pd.testing.assert_frame_equal函数由于其严格的类型检查机制,无法直接处理int32与int64之间的等效性。

本文提出的assert_frame_equiv自定义函数,通过在比较前智能地统一等效数值类型,为解决这一测试挑战提供了一个健壮且灵活的解决方案。它允许开发者在测试中关注数据内容的等效性,同时保留对数据类型大类的验证,避免了手动频繁转换类型或完全禁用类型检查的麻烦。

值得一提的是,Pandas社区也认识到这种需求,并已存在关于在pd.testing.assert_frame_equal中添加类似check_dtype='equiv'选项的功能请求(如GitHub issue #59182)。这表明未来Pandas版本可能会原生支持这种更灵活的类型比较方式,届时自定义函数的使用场景可能会有所变化。但在那之前,assert_frame_equiv提供了一个即时可用的强大工具。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

360

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

272

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

891

2026.04.13

数据类型有哪几种
数据类型有哪几种

数据类型有整型、浮点型、字符型、字符串型、布尔型、数组、结构体和枚举等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

3451

2023.10.31

php数据类型
php数据类型

本专题整合了php数据类型相关内容,阅读专题下面的文章了解更多详细内容。

574

2025.10.31

c语言 数据类型
c语言 数据类型

本专题整合了c语言数据类型相关内容,阅读专题下面的文章了解更多详细内容。

582

2026.02.12

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

7359

2023.08.02

int占多少字节
int占多少字节

int占4个字节,意味着一个int变量可以存储范围在-2,147,483,648到2,147,483,647之间的整数值,在某些情况下也可能是2个字节或8个字节,int是一种常用的数据类型,用于表示整数,需要根据具体情况选择合适的数据类型,以确保程序的正确性和性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

3505

2024.08.29

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

60

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn