讲师中心 微信公众号
AI工具推荐 视频效率加速

Python缺失值处理策略_填充删除与预测方法【指导】

风敏君_6499

风敏君_6499

发布时间:2025-12-25 21:57:18

|

695人浏览过

|

来源于php中文网

原创

缺失值判断应使用 pd.isna(),它能统一识别 None、np.nan 和 pd.NA;删除用 dropna() 时需注意 subset 参数;数值填充优先选 SimpleImputer(strategy='median');预测填充仅适用于高相关特征;非随机缺失(MNAR)宜转为二值特征。

python缺失值处理策略_填充删除与预测方法【指导】

缺失值判断要用 pd.isna(),别用 == None 或 is None

Python 中 None、np.nan、pd.NA 都可能表示缺失,但它们行为不同。== None 对 np.nan 永远返回 False,is None 在 pandas Series 中多数情况下也不可靠。唯一通用且安全的判断方式是 pd.isna()(它同时识别 np.nan、None、pd.NA)。

  • df['col'].isna() 返回布尔 Series,可直接用于筛选或统计
  • df.isna().sum() 快速查看每列缺失数量
  • 注意:pd.notna() 是反向操作,等价于 ~df.isna()

删除缺失行用 dropna(),但默认只删全为 NaN 的行

dropna() 默认参数是 how='any' 且 axis=0,但很多人误以为它会删掉「任意含缺失的行」——其实它确实会,但前提是没指定 subset。真正容易出错的是:当只想删某几列有缺失的行时,必须显式传 subset,否则其他列的缺失会被忽略。

  • 删掉 'age' 或 'income' 中任一列为空的整行:df.dropna(subset=['age', 'income'])
  • 只删「所有列都为空」的行:df.dropna(how='all')
  • 删列(不常用):df.dropna(axis=1, how='all') —— 删全为 NaN 的列
  • ⚠️ 注意:inplace=True 不推荐,易掩盖原始数据状态;优先用赋值:df = df.dropna(...)

数值型填充优先用 SimpleImputer(strategy='median'),不是均值

均值对异常值极度敏感,而中位数鲁棒性强得多。pandas 的 fillna() 虽方便,但无法跨训练/测试集一致应用(比如用训练集的中位数去填测试集),工程部署时容易出错。sklearn 的 SimpleImputer 支持 fit() + transform() 流程,确保数据一致性。

Forge — Python Developer
Forge — Python Developer

Python开发助手 — 自动化脚本、API封装、命令行工具、数据管道、网页爬虫。经过测试的代码,包含错误处理和文档。当你需要...

下载
from sklearn.impute import SimpleImputer
import numpy as np

imp = SimpleImputer(strategy='median')
X_train_imputed = imp.fit_transform(X_train.select_dtypes(include=[np.number]))
X_test_imputed = imp.transform(X_test.select_dtypes(include=[np.number]))
  • strategy='most_frequent' 适用于离散型数值(如编码后的类别)
  • strategy='constant' 填固定值(如 -999),需配合后续模型处理逻辑
  • 分类变量别用 SimpleImputer 填均值/中位数——类型不匹配会报错

预测填充(KNN / IterativeImputer)只在特征强相关时才有效

KNN 填充和 IterativeImputer 本质是建模:用其他列预测缺失列。如果变量间线性/非线性关系弱,预测结果反而比中位数更差,还大幅拖慢速度。实测中,超过 50 列且缺失率 >15% 时,IterativeImputer 训练时间可能增长 10 倍以上,且结果不稳定。

立即学习“Python免费学习笔记(深入)”;

  • 小规模、高相关数据可用:from sklearn.impute import KNNImputer,n_neighbors=5 通常够用
  • IterativeImputer 默认用 BayesianRidge,但换成 DecisionTreeRegressor 有时更鲁棒(尤其含离散特征时)
  • ⚠️ 绝对不要在未标准化的数据上用 KNN —— 量纲差异会导致距离失真

缺失机制本身比方法选择更重要:若缺失不是随机(MNAR),比如“收入越低,越不愿填写”,那任何插补都会引入系统性偏差。这种时候,与其强行填,不如把「是否缺失」转为二值特征参与建模。

热门AI工具

更多
Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

320

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

252

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

531

2026.04.13

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

0

2026.10.16

OpenJDK怎么配置Java开发环境
OpenJDK怎么配置Java开发环境

怎样用OpenJDK搭建开发环境?本专题介绍版本选择、下载安装、环境变量配置和编译运行验证,帮助你理清JDK的作用及基本配置流程,并通过简单程序检查环境是否可用,为后续项目开发做好准备。

0

2026.10.16

OpenJDK怎么部署Java应用
OpenJDK怎么部署Java应用

Java项目开发完成后,怎样部署到目标环境并正常运行?本专题介绍OpenJDK应用部署流程,涵盖运行环境准备、版本兼容检查、应用打包、启动参数配置和日志查看,帮助你理清部署前后的操作顺序,减少环境差异造成的运行问题。

0

2026.10.16

Revel框架模板渲染与表单验证
Revel框架模板渲染与表单验证

本专题围绕Revel框架视图层开发,介绍模板语法、变量输出、布局复用、表单提交、参数绑定与验证规则,帮助开发者完成安全规范的页面交互。

0

2026.10.16

Revel框架MVC路由与控制器
Revel框架MVC路由与控制器

本专题聚焦Revel框架MVC核心机制,讲解路由定义、控制器Action、参数绑定、请求响应和反向路由,并结合常见场景梳理接口请求处理流程。

0

2026.10.16

Revel框架入门与安装配置
Revel框架入门与安装配置

本专题从Revel框架环境搭建讲起,系统介绍命令行工具安装、项目创建、目录结构、配置文件及热代码重载,帮助开发者快速完成首个Go Web应用。

0

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn