讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在Python中评估Scikit-learn模型在不同子集上的公平性?

大丽大大_4376

大丽大大_4376

发布时间:2026-08-12 11:25:08

|

188人浏览过

|

来源于php中文网

原创

用Fairlearn的MetricFrame分组计算性能差异最稳妥,需显式传sensitive_features、统一敏感列类型、避免classification_report漏组,并用make_group_metric包装scorer适配sklearn流程。

如何在python中评估scikit-learn模型在不同子集上的公平性?

用 fairlearn 分组计算性能差异

直接调用 fairlearn.metrics.MetricFrame 是最稳的路子。它能自动按敏感属性(比如 race、gender 或工业场景里的 batch_id)切分数据,再对每组单独算指标,不手动拆数组、不漏 groupby 边界条件。

常见错误是把敏感列当普通特征传进模型评估函数——MetricFrame 要求显式传入 sensitive_features 参数,否则会报 ValueError: sensitive_features must be 1D 或静默忽略分组逻辑。

  • metrics 字典里键名必须是函数名(如 "accuracy"),值必须是可调用对象(accuracy_score,不是字符串 "accuracy_score")
  • 敏感列类型要一致:训练时用 int 编码的 batch_id,测试时也得是 int,混用 str 会导致某组 support=0,后续除零或 nan
  • 输出是 MetricFrame 对象,查各组精度差直接用 .difference(method="between_groups"),别自己取 max-min —— 它默认处理了缺失组和 NaN

避免 classification_report 漏掉稀有子组

原生 classification_report 只统计 y_true 和 y_pred 共同出现的类,如果某班组在测试集里只出现 2 次、预测全错,报告里可能压根不显示该组 recall,你以为模型“没偏见”,其实是被隐藏了。

正确做法是先用 np.unique 扫一遍所有敏感值,强制喂给 MetricFrame 的 sensitive_features;或者用 fairlearn.metrics.group_summary 配合 include_overall=False,确保每个子组都强制出结果。

python-script-generator
python-script-generator

快速生成专业的 Python 脚本和应用代码。一键创建完整项目结构,支持CLI、API、爬虫、Bot、Django等多种项目类型,包含完整的项目结构、配置文件、依赖管理、测试、README和文档。

下载

立即学习“Python免费学习笔记(深入)”;

  • 工业场景中,原料批次 batch_087 可能在训练集为 0 样本,测试集突然出现 5 条——这时 sensitive_features 必须包含该值,否则 MetricFrame 会跳过它
  • 若用 output_dict=True 接 classification_report,记得检查返回字典里是否有该组 key;没有就说明该组未参与统计,得回溯数据分布

在 pipeline 中嵌入公平性 scorer 会报错?

GridSearchCV 或 cross_val_score 不能直接用 MetricFrame 当 scorer,因为它的签名是 (y_true, y_pred, sensitive_features),而 sklearn 的 scorer 只认两个参数。强行塞会触发 TypeError: got an unexpected keyword argument 'sensitive_features'。

真正能用的,是 fairlearn.metrics.make_group_metric 包装后的函数,例如:

from fairlearn.metrics import make_group_metric, demographic_parity_difference
dp_diff_scorer = make_group_metric(
    demographic_parity_difference,
    metric_kwargs={"sensitive_features": groups_test}
)
  • make_group_metric 返回的是标准 sklearn scorer,可直接传给 scoring=dp_diff_scorer
  • metric_kwargs 必须在定义 scorer 时固化,不能留到 fit 阶段动态传——否则 cv 折叠间 groups_test 长度不一致会崩
  • 注意:这类 scorer 返回的是差异值(越小越好),所以 greater_is_better=False 得显式设,否则 GridSearchCV 会反向优化

为什么 demographic_parity_difference 和 equalized_odds_difference 结果差很多

前者看“预测为正例的比例”在各组是否接近(P(ŷ=1|A=a) ≈ P(ŷ=1|A=b)),后者看“真实为正例时预测为正例的比例”是否一致(P(ŷ=1|y=1,A=a) ≈ P(ŷ=1|y=1,A=b))。工业产率预测里,若模型对稀有原料批次整体压低预测概率,demographic_parity_difference 就会飙升;但若它对这批原料的达标样本仍保持高召回,则 equalized_odds_difference 可能正常——两者不互斥,得一起看。

  • 二分类任务中,equalized_odds_difference 要求你明确传 y_true 和 y_pred,且 y_true 必须含正例(否则分母为 0 返回 nan)
  • 多类问题别硬套这两个函数——它们只支持二分类,用错会静默返回 0 或报 ValueError: y_true contains more than two classes
  • 实际部署前,至少比对三组指标:accuracy、recall 差异、demographic_parity_difference;只盯一个,容易误判“公平”

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1671

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

4164

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1669

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

24097

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2947

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2987

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1163

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

596

2023.08.10

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

100

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn