讲师中心 微信公众号
AI工具推荐 视频效率加速

Python怎么处理具有缺失值的分类问题_直方图梯度提升树原生支持

千墨吖_7393

千墨吖_7393

发布时间:2026-05-05 12:02:47

|

956人浏览过

|

来源于php中文网

原创

能,HistGradientBoostingClassifier原生支持np.nan和None缺失值,自动学习最优分裂方向;数值列可直接保留nan,类别列需先填充再编码,y不能含缺失值。

python怎么处理具有缺失值的分类问题_直方图梯度提升树原生支持

histgradientboostingclassifier 能否直接处理缺失值

能,HistGradientBoostingClassifier 原生支持 np.nan 和 None 作为缺失值,无需填充或删除。它在分裂节点时会自动学习「把缺失样本分到哪边更优」,本质是把缺失视为一种可学习的分支方向。

这和 XGBoost(需设置 missing=nan)或 LightGBM(默认处理)逻辑类似,但 sklearn 的实现不依赖额外参数控制——只要传入 np.nan,它就识别并参与最优切分搜索。

  • 输入数据中用 np.nan 表示缺失,不要用字符串 "NaN" 或空字符串
  • 分类特征(object 或 category 类型)若含缺失,需先用 pd.get_dummies 或 OneHotEncoder 编码,否则会报 ValueError: Input X contains NaN
  • 目标变量 y 中不能有缺失值,否则拟合时报错 Found array with NaN values in target

与普通 gradientboostingclassifier 的关键区别

GradientBoostingClassifier 完全不支持缺失值:遇到 np.nan 直接抛 ValueError: Input contains NaN;而 HistGradientBoostingClassifier 不仅不报错,还在内部用「缺失导向分裂」(missing-aware split)提升鲁棒性。

背后机制是:对每个候选分裂点,算法分别评估「把缺失样本全归左」「全归右」「忽略缺失样本」三种策略的损失下降,选最优的一种。这意味着缺失值不是被丢弃,而是被建模为一种隐式特征行为。

立即学习“Python免费学习笔记(深入)”;

提示词大师-python版
提示词大师-python版

图片提示词生成器?不止如此。 马甲系统 —— 把脑海中的画面,翻译成AI能理解的专业表达。 用得越多,它越懂你:首次需要多问几句确认方向,用久了几乎一说就懂。 用得越多,它越快:缓存机制让后续对话越来越省。 RAG进化:成功案例持续入库,越跑越聪明。 输入「新手指南」查看完整功能介绍

下载
  • 训练速度更快:基于直方图近似分割,天然适配缺失值处理逻辑
  • 内存更省:不需要像传统 GBDT 那样为缺失单独维护 surrogate splits
  • 但无法导出缺失值的具体路由路径——你没法用 tree_.threshold 反推某个 nan 样本被分到了哪边

实际使用时怎么准备数据

最简流程就是:数值型列保留 np.nan,类别列先编码再确保无缺失,y 删掉含缺失的行。不需要 SimpleImputer,也不建议用均值/众数填充——那反而可能引入偏差,尤其当缺失本身带有业务含义(如“用户未填写年龄”可能代表年轻群体)。

import numpy as np
from sklearn.ensemble import HistGradientBoostingClassifier
from sklearn.preprocessing import OneHotEncoder
import pandas as pd
<h1>示例数据:数值列含 nan,类别列含 nan</h1><p>df = pd.DataFrame({
"age": [25, np.nan, 35, 40, np.nan],
"city": ["Beijing", "Shanghai", np.nan, "Guangzhou", "Shenzhen"]
})
y = np.array([0, 1, 1, 0, 1])  # 注意:这里 y 不能有 nan</p><h1>步骤1:数值列保持原样(nan 留着)</h1><p>X_num = df[["age"]]</p><h1>步骤2:类别列先填充再编码(不能留 nan 进去)</h1><p>X_cat = df[["city"]].fillna("MISSING")
X_cat_encoded = OneHotEncoder(sparse_output=False).fit_transform(X_cat)</p><h1>步骤3:拼接</h1><p>X = np.hstack([X_num, X_cat_encoded])</p><h1>步骤4:训练 —— age 列里的 np.nan 会被原生处理</h1><p>clf = HistGradientBoostingClassifier()
clf.fit(X, y)</p>

容易被忽略的边界情况

缺失值处理虽方便,但有两个隐蔽坑点常导致结果异常:

  • 如果某数值特征**全部是 nan**,HistGradientBoostingClassifier 会静默跳过该列(不报错),最终模型里根本没有这个特征——检查 clf.feature_names_in_ 和输入列是否一致
  • 使用 sample_weight 时,若某样本权重为 0 且其特征含 nan,该样本仍参与缺失分裂逻辑,但不贡献梯度——这种组合容易让特征重要性失真
  • 预测阶段,新数据中出现训练时未见过的缺失模式(比如某列训练时只有 5% nan,预测时突然 90% nan),模型不会警告,但泛化性能可能断崖下跌

真正要注意的不是「能不能用」,而是「缺失分布是否稳定」和「类别型缺失有没有被正确编码」——这两点出问题,比算法本身是否支持缺失值影响更大。

热门AI工具

更多
Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1611

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

3844

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1609

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

22177

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2727

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2767

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1103

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

596

2023.08.10

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

160

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn