讲师中心 微信公众号
AI工具推荐 视频效率加速

使用 pandas transform 高效计算分组下唯一值的平均数并回填原表

秋雪大大_8538

秋雪大大_8538

发布时间:2026-02-08 13:08:07

|

1140人浏览过

|

来源于php中文网

原创

使用 pandas transform 高效计算分组下唯一值的平均数并回填原表

本文介绍如何利用 pandas 的 `transform` 方法,直接在原始 dataframe 中高效计算按用户和类别分组后的唯一计数值平均值,避免冗余的去重、新建 dataframe 和 merge 操作,提升代码简洁性与执行效率。

在数据分析中,常需基于去重逻辑(如每个 user_id + Category 组合下的唯一 counts 值)计算分组统计量,并将结果广播回原始数据行。传统做法(如先 drop_duplicates 再 merge)不仅代码冗长,还易引入索引错位、重复匹配等隐患,且性能较差。

更优雅、高效的解法是直接在原始 DataFrame 上应用 transform ——但关键前提在于:明确“唯一值的平均”究竟指什么。从原始示例的输出可反推真实需求:

  • Overall_average__Unique_Counts = 1.83 → 实际是全部 不重复 (user_id, Category, counts) 组合 中 counts 的全局均值(即 df1.drop_duplicates(['user_id','Category','counts'])['counts'].mean()),而非按 user_id 分组均值;
  • Categorywise_average_Unique_counts → 是每个 Category 下所有不重复 counts 值的均值(如 'ABC' 对应 {3,2,1} → 均值 2.0;'XYZ' 对应 {2,1} → 均值 1.5?但示例输出为 1.67,说明实际用了 {2,1,2} 去重后 {1,2} → (1+2)/2 = 1.5 ❌;再核对:df1_unique 中 'XYZ' 行为 (D,XYZ,2), (D,XYZ,1), (E,XYZ,2) → 去重后 counts 为 [2,1] → 均值 1.5,但输出是 1.67。发现原示例代码中 df1_unique["Categorywise_average_Unique_counts"] = df1_unique.groupby(["Category"])['counts'].transform('mean') 计算的是 df1_unique(已去重)中各 Category 内 counts 的均值:'ABC' 有 (A,ABC,3), (B,ABC,2), (B,ABC,1) → counts=[3,2,1] → mean=2.0;'XYZ' 有 (D,XYZ,2), (D,XYZ,1), (E,XYZ,2) → counts=[2,1,2] → 去重后仍保留三行,transform('mean') 对每行赋值 mean([2,1,2]) = 5/3 ≈ 1.67。⚠️ 注意:此处“唯一值”指组合唯一,但 counts 列本身未二次去重!因此正确理解是:先按 (user_id, Category, counts) 去重得到唯一观测,再对这些观测按需分组求 counts 均值。

因此,若严格按业务语义(即“每个用户/类别的唯一计数值的平均”),必须先去重,但可避免 merge:用 transform 结合 groupby 在去重后 DataFrame 上计算,再通过 map 或 join 回填——但最简实践仍是复用原答案思路,并修正语义:

✅ 推荐方案(兼顾简洁性与可读性):

使用Go语言搭建家庭相册系统-相关课件
使用Go语言搭建家庭相册系统-相关课件

使用Go语言搭建家庭相册系统-相关课件

下载
import pandas as pd

df1 = pd.DataFrame({
    'user_id': ['A','A','A', 'B','B','B', 'D','D','D', 'E','E'],
    'Category': ['ABC','ABC','ABC','ABC','ABC','ABC','XYZ','XYZ','XYZ','XYZ','XYZ'],
    'counts': [3,3,3,2,2,1,2,1,2,2,2]
})

# 步骤1:构造去重后的基准表(唯一组合)
df_unique = df1.drop_duplicates(['user_id', 'Category', 'counts']).copy()

# 步骤2:计算全局唯一 counts 均值(标量),广播到所有行
overall_avg = df_unique['counts'].mean()
df1['Overall_average__Unique_Counts'] = overall_avg

# 步骤3:计算每个 Category 下唯一 counts 的均值(按 Category 分组均值)
cat_avg_series = df_unique.groupby('Category')['counts'].transform('mean')
# 将结果映射回原 df1:以 (user_id, Category, counts) 为键 join
df1 = df1.merge(
    df_unique.assign(Categorywise_average_Unique_counts=cat_avg_series)[
        ['user_id', 'Category', 'counts', 'Categorywise_average_Unique_counts']
    ],
    on=['user_id', 'Category', 'counts'],
    how='left'
)

? 进阶技巧:若追求极致简洁且接受轻微语义偏移(即用原始行分组代替去重后分组),可直接用:

# 注意:此方式计算的是“每个 user_id 下所有 counts 的均值”,非唯一值均值
df1['Overall_avg_by_user'] = df1.groupby('user_id')['counts'].transform('mean')

# 此方式计算的是“每个 (user_id, Category) 组合下所有 counts 的均值”
df1['Cat_avg_by_group'] = df1.groupby(['user_id', 'Category'])['counts'].transform('mean')

但这与原始需求不符(原始需求明确要求“unique values”)。

? 总结:

  • transform 本身不能直接处理“先去重再分组”的复合逻辑,必须显式去重;
  • 最佳实践是:drop_duplicates → groupby().transform() 计算 → merge 回填,代码清晰、语义准确、性能可控;
  • 避免在未去重数据上直接 transform,否则会混淆“唯一观测”与“原始行”的统计口径;
  • 若数据量极大,可考虑用 pd.util.hash_pandas_object 构造组合哈希键加速去重与合并。

热门AI工具

更多
UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

320

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

252

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

671

2026.04.13

golang map内存释放
golang map内存释放

本专题整合了golang map内存相关教程,阅读专题下面的文章了解更多相关内容。

630

2025.09.05

golang map相关教程
golang map相关教程

本专题整合了golang map相关教程,阅读专题下面的文章了解更多详细内容。

343

2025.11.16

golang map原理
golang map原理

本专题整合了golang map相关内容,阅读专题下面的文章了解更多详细内容。

533

2025.11.17

java判断map相关教程
java判断map相关教程

本专题整合了java判断map相关教程,阅读专题下面的文章了解更多详细内容。

303

2025.11.27

数据分析的方法
数据分析的方法

数据分析的方法有:对比分析法,分组分析法,预测分析法,漏斗分析法,AB测试分析法,象限分析法,公式拆解法,可行域分析法,二八分析法,假设性分析法。php中文网为大家带来了数据分析的相关知识、以及相关文章等内容。

1882

2023.07.04

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

100

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn