讲师中心 微信公众号
AI工具推荐 视频效率加速

如何使用Python中的Scikit-learn实现缺失值的迭代插补?

大涛大大_2115

大涛大大_2115

发布时间:2026-06-05 11:13:19

|

826人浏览过

|

来源于php中文网

原创

IterativeImputer是一种多变量迭代插补方法,它将每列缺失值作为目标变量,用其余列为特征训练回归模型(如BayesianRidge)逐列预测并迭代优化;而SimpleImputer仅按列单独填充均值/中位数/众数,完全忽略变量间依赖关系。

如何使用python中的scikit-learn实现缺失值的迭代插补?

什么是 IterativeImputer,它和简单插补有啥区别?

IterativeImputer 不是直接用均值、中位数或众数填空,而是把缺失值当作待估计的变量,用其他特征建模来预测它——本质是多变量联合建模。比如某行 age 缺失,它会用 income、education、gender 等列训练一个回归模型去预测这个 age;反过来,当 income 缺失时,又用更新后的 age(刚填上的)和其他列再建模。这个过程迭代进行,直到收敛或达到最大轮数。

  • 它默认使用 BayesianRidge 作为每个特征的预测器,也可换为 DecisionTreeRegressor 或 RandomForestRegressor(注意:后者需设 sample_posterior=False)
  • 必须对数据做标准化或归一化吗?不一定,但 BayesianRidge 对量纲敏感,数值差异过大时容易收敛失败或结果漂移
  • 不支持字符串类型列:所有输入必须是数值型,分类变量得先 OneHotEncoder 或 OrdinalEncoder

怎么正确调用 IterativeImputer 做拟合与变换?

关键不是“直接 fit_transform”,而是分两步:先 fit(只在训练集上),再 transform(应用到训练集和测试集)。否则会引入未来信息泄露。

from sklearn.experimental import enable_iterative_imputer
from sklearn.impute import IterativeImputer
from sklearn.ensemble import RandomForestRegressor
<h1>注意:必须显式启用(因属 experimental 模块)</h1><p>imputer = IterativeImputer(
estimator=RandomForestRegressor(n_estimators=10, random_state=42),
max_iter=10,
initial_strategy="median",  # 第一轮用中位数初始化缺失位置
random_state=42
)</p><h1>只在训练数据上 fit</h1><p>imputer.fit(X_train)</p><h1>再统一 transform(含训练集和测试集)</h1><p>X_train_imputed = imputer.transform(X_train)
X_test_imputed = imputer.transform(X_test)</p>
  • max_iter=10 是安全起点;若 convergence_rate(内部记录的残差下降率)太小,可适当加到 15–20
  • initial_strategy 影响首轮初始化质量,选 "median" 比 "mean" 更抗异常值
  • 如果报错 ValueError: Input contains NaN,说明传入了全 NaN 列——IterativeImputer 要求每列至少有一个非空值

为什么有时插补后模型效果反而变差?

这不是插补本身的问题,而是没处理好两个隐性依赖:

Python Use Agent
Python Use Agent

智能执行Python任务,自动生成、执行代码并反馈结果,无需额外配置,兼容旧命令。

下载

立即学习“Python免费学习笔记(深入)”;

  • 特征间线性/单调假设过强:BayesianRidge 默认假设线性关系,若真实关系高度非线性(如 income 和 loan_approval 是 S 型),插补值会系统性偏移
  • 缺失机制未建模:如果缺失不是随机的(例如高收入人群更不愿填 age),单纯用其他特征预测,会把偏差固化进数据

应对建议:

  • 先检查缺失模式:用 missingno.matrix(df) 看缺失是否集中于某些样本或列组合
  • 把“是否缺失”转为二值特征(如 age_missing 列),和插补值一起送入下游模型——这能让模型感知缺失本身的信号
  • 对比插补前后关键特征的分布:用 seaborn.histplot 叠加原始非空值与插补值,看峰形、范围是否突变

常见报错和绕过方法

ConvergenceWarning: Maximum number of iterations 10 reached.
这是最常遇到的提示,不代表失败,只是没在限定轮次内满足默认收敛阈值(tol=1e-3)。可接受,尤其当数据噪声大时;若想压制警告且不改逻辑,加 verbose=0 即可。

ValueError: The used estimator ... does not support sample_weight.
出现在用 SGDRegressor 等不支持样本权重的估计器时。解决:换回 BayesianRidge 或 DecisionTreeRegressor,或确认你用的 sklearn 版本 ≥ 1.2(部分权重支持已修复)

AttributeError: 'IterativeImputer' object has no attribute 'n_features<em>in</em>'
老版本 sklearn(<1.0)不兼容新 API。必须升级:pip install --upgrade scikit-learn,并确认启用了 experimental 模块(import 语句不能少)

真正麻烦的是混合类型数据流——一旦忘了把分类变量编码就喂进去,错误信息不会直说“你传了字符串”,而是抛出难以定位的 TypeError: ufunc 'isnan' not supported for the input types。这种时候,先 print(X_train.dtypes),确保全是 float64 或 int64。

热门AI工具

更多
二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1611

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

3924

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1629

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

22577

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2767

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2807

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1123

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

596

2023.08.10

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

0

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn