讲师中心 微信公众号
AI工具推荐 视频效率加速

如何检测数据中的异常数值(NaN、Infinity、None等)

冬瑶酱_1891

冬瑶酱_1891

发布时间:2026-01-03 21:04:02

|

945人浏览过

|

来源于php中文网

原创

如何检测数据中的异常数值(NaN、Infinity、None等)

本文介绍在数据管道验证中高效识别异常数值(如 nan、inf、-inf、none)的实用方法,涵盖 python 原生与 numpy 双方案,强调 `math.isfinite()` 的核心作用,并指出常见误区与最佳实践。

在构建健壮的数据处理流水线时,确保数值字段“干净”是关键一步。仅靠范围校验(如 x ∈ [-10, 10])无法捕获非有限值(non-finite values)——例如 float('nan')、float('inf')、float('-inf'),以及 None 或其他非数字类型(如字符串 'missing')。这些值虽能通过部分算术运算“存活”,却极易在后续统计、模型训练或序列化中引发静默错误或崩溃。

推荐的核心判断逻辑是:
isinstance(x, (int, float)) and math.isfinite(x)

⚠️ 注意:math.isfinite(x) 已隐式排除 NaN 和 ±Inf(即 math.isfinite(nan) == False,math.isfinite(float('inf')) == False),因此无需额外调用 math.isnan()。该函数是 Python 标准库中专为数值健全性设计的权威判定工具。

以下是两种典型使用场景的实现:

python全能编程助手
python全能编程助手

SkillSub Pro - Python 题解与代码注释双功能技能功能概述SkillSub Pro - Python 题解与代码注释双功能技能是一项面向实际任务的技能,主要用于SkillSub Pro 是一个 Python 题解生成与代码注释的 双功能合体技能 ,专为学生、算法学习者和开发者设计;✅ 一个技能,两种用途 :;核心要点📝 题解模式 :输入题目/题号,自动生成完整 Python 题解(含详细注释、解题思路、复杂度分析);💬 注释模式 :输入 Python 代码,自动添加详细中。它将相关步骤、

下载

1. 批量校验整个数据集(返回布尔结果)

import math

def all_numbers_valid(data):
    """检查所有元素是否为有效的有限浮点数或整数"""
    return all(
        isinstance(x, (int, float)) and math.isfinite(x)
        for x in data
    )

# 示例
print(all_numbers_valid([1, -3.14, 0, 100]))        # True
print(all_numbers_valid([1, 2, float('nan')]))       # False
print(all_numbers_valid([1, None, 3]))               # False(None 不是 int/float)
print(all_numbers_valid([1, '2', 3]))                # False(字符串 '2' 不是数值类型)

2. 逐项诊断并定位异常值

def find_invalid_entries(data):
    """返回所有无效值及其索引,便于调试与日志记录"""
    invalid = []
    for i, x in enumerate(data):
        if not (isinstance(x, (int, float)) and math.isfinite(x)):
            invalid.append((i, repr(x), type(x).__name__))
    return invalid

# 示例
data = [1.0, float('inf'), None, -5, float('nan'), "99"]
invalids = find_invalid_entries(data)
for idx, val_repr, typ in invalids:
    print(f"Index {idx}: {val_repr} ({typ})")  
# 输出:
# Index 1: inf (float)
# Index 2: None (NoneType)
# Index 4: nan (float)
# Index 5: '99' (str)

? 重要补充说明:

  • numpy 用户可选用 np.isfinite(),它对数组更高效,且自动广播、支持 pd.Series/np.ndarray;但注意:np.isfinite(None) 会报错,务必先做类型过滤或用 pd.isna() 配合。
  • None、np.nan、float('nan') 三者语义不同:None 是 Python 空对象;np.nan 是 NumPy 的 NaN 表示;float('nan') 是内置浮点 NaN。math.isfinite() 对后两者均返回 False,但对 None 会抛 TypeError —— 因此 isinstance(...) 类型检查必不可少。
  • ❌ 错误做法:仅用 x != x 判 NaN(不覆盖 Inf)、或 x is not None(忽略 NaN/Inf)、或 abs(x) < 1e308(浮点精度与溢出风险高)。

? 总结建议:
将 isinstance(x, (int, float)) and math.isfinite(x) 作为数值有效性校验的黄金标准;在 ETL 或特征工程入口处统一调用,配合清晰的错误上下文输出,可大幅提升数据质量监控的可靠性与可维护性。

热门AI工具

更多
Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

相关专题

更多
css中float用法
css中float用法

css中float属性允许元素脱离文档流并沿其父元素边缘排列,用于创建并排列、对齐文本图像、浮动菜单边栏和重叠元素。想了解更多float的相关内容,可以阅读本专题下面的文章。

5347

2024.04.28

C++中int、float和double的区别
C++中int、float和double的区别

本专题整合了c++中int和double的区别,阅读专题下面的文章了解更多详细内容。

584

2025.10.23

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1538

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

2224

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

5724

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

4789

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

6514

2024.03.22

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

8714

2024.04.29

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

20

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn