讲师中心 微信公众号
AI工具推荐 视频效率加速

Python 数据清洗中缺失值的处理策略

冬浩君_9871

冬浩君_9871

发布时间:2026-02-15 17:35:02

|

468人浏览过

|

来源于php中文网

原创

缺失值处理需先判断类型与业务含义,避免盲目填充;数值列优先中位数或分组填充,类别列查分布再处理;时间列慎填;删除需限定subset和how;imputer须fit_transform与transform分离;缺失本身可作特征;关键在业务确认。

python 数据清洗中缺失值的处理策略

用 pandas.DataFrame.fillna() 填什么,得先看缺失值类型和业务逻辑

直接 fillna(0) 或 fillna("未知") 是最常见也最容易翻车的操作。缺失不等于零,也不等于空字符串——比如销售额为 NaN,填 0 会把“未上报”扭曲成“卖了零元”,后续算平均值、做分组统计全偏了。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 先用 df.isna().sum() 看哪些列缺失多,再用 df[col].dtype 判断是数值型还是类别型
  • 数值列优先考虑中位数(抗异常值)或按分组填充,比如 df.groupby("region")["sales"].transform("median")
  • 类别列别硬填 "other",先查下 df[col].value_counts(dropna=False),确认 NaN 是否真代表“未填写”,还是系统漏传
  • 时间列慎用 fillna(pd.Timestamp("1970-01-01")),下游可能报 OutOfBoundsDatetime

dropna() 不是删得越狠越好,得盯住 how 和 subset

默认 df.dropna() 会删掉任何含 NaN 的整行,但实际中往往只要求关键字段不为空。比如用户表里 email 和 phone 允许缺一个,但 user_id 必须有;盲目删行可能干掉 30% 有效数据。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 明确主键/必要字段,用 subset=["user_id", "reg_date"] 限定检查范围
  • 别依赖默认 how="any",该用 how="all" 时就用——比如某行所有特征列全是 NaN 才值得删
  • 删之前先 df.dropna(..., inplace=False) 并保存原 shape,对比删了多少,心里有数
  • 注意 axis=1 删列的风险:一列缺失率 95%,删它可能让模型少一个强特征

用 sklearn.impute 做训练/预测一致性时,fit_transform() 和 transform() 必须分开

在建模流程里,用 SimpleImputer 对训练集 fit_transform() 后,测试集必须只调 transform()。如果对测试集也 fit_transform(),相当于用了两套统计量(比如训练集均值 vs 测试集均值),模型上线后结果就不可复现。

macOS UI 自动化技能包 —— 用 Python 控制你的 Mac
macOS UI 自动化技能包 —— 用 Python 控制你的 Mac

让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac,无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启:辅助功能 + 屏幕录制权限

下载

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 永远把 imputer 当作模型一部分,和 StandardScaler 一样存起来:joblib.dump(imputer, "imputer.pkl")
  • 别在 pd.DataFrame 上直接用 SimpleImputer,它默认输出 numpy.ndarray;加 keep_empty_features=True 和手动重建列名更稳
  • 类别型列别乱用 strategy="most_frequent"——如果某类在训练集里没出现过,测试集突然来了个新类,most_frequent 就没意义了
  • 时间序列场景下,IterativeImputer 容易过拟合,小数据集上不如前向填充 method="ffill"

缺失值标记本身可能是信号,别急着抹掉 NaN

有些字段的缺失不是脏数据,而是业务事实。比如信贷审批中 credit_score 缺失,可能代表用户拒绝授权查询;电商订单中 coupon_code 缺失,大概率是自然流量而非投放渠道。把这些当成普通缺失去填,反而丢掉了关键区分维度。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 新增二值列显式记录缺失状态,比如 df["credit_score_is_missing"] = df["credit_score"].isna()
  • 把 NaN 当作一个合法类别编码进模型(尤其树模型),比填均值更合理
  • 警惕 df.replace({np.nan: "MISSING"}) 这种操作——字符串 "MISSING" 和真正缺失语义不同,且后续 isna() 就失效了
  • 数据库导出时若用 NULL 表示缺失,Python 读进来是 NaN,但 Excel 导入可能变成空字符串,得统一用 pd.read_csv(..., keep_default_na=False, na_values=["", "NULL", "N/A"])

缺失值处理最麻烦的从来不是代码怎么写,而是得反复跑回业务方确认:“这个空,到底是没填,还是不能填,还是不该填”。代码能填的只是 NaN,填不了上下文。

热门AI工具

更多
超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

花生AI
花生AI Hot

一款AI视频创作工具,主要用于B站推出的AI视频创作工具,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

340

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

272

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

831

2026.04.13

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

549

2023.09.22

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

1698

2024.03.01

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1878

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

3024

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

6304

2023.10.24

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

20

2026.11.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn