讲师中心 微信公众号
AI工具推荐 视频效率加速

Python 数据异常的快速定位方法

雨丽酱_1131

雨丽酱_1131

发布时间:2026-02-22 19:46:03

|

534人浏览过

|

来源于php中文网

原创

pandas.DataFrame.info() 是定位数据异常的首要工具,可查看字段类型、缺失值数量和内存占用;若数值列显示为object,需用unique()检查是否混入空格或字符串;配合describe(include="all")、isna().sum()、duplicated().sum()和infer_dtype()可全面诊断脏数据。

python 数据异常的快速定位方法

用 pandas.DataFrame.info() 看清数据“底细”

DataFrame.info() 不只是查行列数,它直接暴露字段类型、缺失值数量和内存占用——这是定位异常的第一把尺子。很多“计算结果不对”其实源于某列本该是 int64 却被读成 object(比如混入了空格或“N/A”字符串),导致后续 .sum() 或 .mean() 静默跳过。

  • 运行 df.info() 后重点关注 Non-Null Count 列:若明显少于 Total Count,说明有缺失;但更要盯住 Dtype 是否符合预期
  • 如果某数值列显示为 object,别急着转换,先用 df["col"].unique()[:10] 看前10个值,常会发现 " "、"-"、"NULL" 这类伪装成数值的字符串
  • info() 默认不显示全部列,列太多时加参数 verbose=True,或直接用 df.info(memory_usage="deep") 查内存暴增是否由字符串列引起

用 df.describe(include="all") 横向比对各列分布

describe() 默认只统计数值列,加上 include="all" 才能同时看到分类列的 unique、top、freq,这对发现脏数据特别有用。比如某用户ID列本应唯一,但 unique 值远小于行数,说明重复或格式混乱。

  • 数值列的 min/max 出现明显离群值(如年龄=999、金额=-1),大概率是占位符没清洗
  • 字符串列的 top 值如果频繁出现 "unknown" 或 "--",要确认业务上是否允许,否则后续 groupby 会把它们全归一类
  • 注意 count 和 unique 的差值:若差值大,说明大量重复值,可能意味着上游系统写入异常或去重逻辑失效

用 df.isna().sum() 和 df.duplicated().sum() 量化异常规模

光看“有没有”不够,得知道“有多少”。isna().sum() 返回每列缺失数,duplicated().sum() 返回完全重复行数——这两个数字决定你该清洗还是换数据源。

macOS UI 自动化技能包 —— 用 Python 控制你的 Mac
macOS UI 自动化技能包 —— 用 Python 控制你的 Mac

让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac,无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启:辅助功能 + 屏幕录制权限

下载
  • 缺失数占比超过 5% 的列,别急着用 fillna(),先查缺失是否集中在某时间段(如某天所有传感器断连),这种系统性缺失填了也没意义
  • duplicated() 默认检查所有列,但业务上可能只关心关键字段(如订单号+时间),这时改用 df.duplicated(subset=["order_id", "timestamp"])
  • 注意 df.duplicated(keep=False) 能标出所有重复项(包括首行),方便批量排查,而默认的 keep="first" 只标记后续重复行

用 pd.api.types.infer_dtype() 检查单列数据类型可信度

infer_dtype() 比 dtype 更细粒度:它能告诉你一列是 string、mixed-integer 还是 floating,尤其适合发现“看似数字实则混杂”的列。

立即学习“Python免费学习笔记(深入)”;

  • 对疑似问题列运行 pd.api.types.infer_dtype(df["col"]),若返回 mixed 或 mixed-integer,基本可以确定存在非标准值
  • 它不修改数据,只诊断,所以可放心在生产环境小样本上跑,比如 pd.api.types.infer_dtype(df["price"].head(1000))
  • 返回 decimal 通常表示有 Decimal 对象混入,这会导致 numpy 运算报 TypeError: unsupported operand type(s)

真实数据里最麻烦的不是缺失或重复,而是那些“看起来正常却悄悄污染结果”的值——比如时间列里混进一个 "2023-02-30",to_datetime() 默认转成 NaT,但没人告诉你它在哪一行。这类问题必须结合多维度交叉验证,不能只信单一函数的输出。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

320

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

252

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

671

2026.04.13

数据类型有哪几种
数据类型有哪几种

数据类型有整型、浮点型、字符型、字符串型、布尔型、数组、结构体和枚举等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

3131

2023.10.31

php数据类型
php数据类型

本专题整合了php数据类型相关内容,阅读专题下面的文章了解更多详细内容。

554

2025.10.31

c语言 数据类型
c语言 数据类型

本专题整合了c语言数据类型相关内容,阅读专题下面的文章了解更多详细内容。

542

2026.02.12

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

6699

2023.08.02

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

549

2023.09.22

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

100

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn