讲师中心 微信公众号
AI工具推荐 视频效率加速

利用Pandas实现数据框分组条件分配的自动化与优化

云辰君_6502

云辰君_6502

发布时间:2025-12-09 10:51:12

|

175人浏览过

|

来源于php中文网

原创

利用Pandas实现数据框分组条件分配的自动化与优化

本文详细介绍了如何在pandas数据框中,以可扩展的方式根据分组条件(如商店和工人)自动化分配“箱子”数量。通过`groupby().transform()`结合自定义函数,实现了为每个工人分配最多100个箱子,并处理了单人商店的特殊情况,避免了手动`iloc`索引的不可伸缩性,显著提升了数据处理效率和代码的健壮性。

引言

在数据处理和资源分配场景中,我们经常需要根据特定规则将总量分配给不同的实体。一个常见需求是,在分组数据中,按照优先级为每个组内成员分配资源,并遵循最大容量限制,同时可能存在特殊情况(例如,当组内成员数量为一时)。手动处理这些分配逻辑,特别是当组规模或组数量庞大时,会变得极其繁琐且难以维护。本教程将展示如何利用Pandas的强大功能,特别是groupby().transform()方法,以一种高效、可扩展且易于理解的方式解决此类问题。

问题描述与传统方法的局限性

假设我们有一个包含商店、工人、工人拥有的箱子数量以及待分配的“最优箱子”数量的数据框。我们的目标是根据以下规则填充optimal_boxes列:

  1. 工人优先级按其worker编号的数值顺序。
  2. 每个工人最多分配100个箱子。
  3. 如果一个商店只有一个工人,则该工人获得该商店所有箱子的总和,即使超过100个。
  4. 箱子总量从优先级最高的工人开始分配,直到分配完毕或所有工人均达到最大容量。

以下是示例数据框:

import pandas
import numpy

data_stack_exchange = {'store': ['A','B', 'B', 'C', 'C', 'C', 'D', 'D', 'D', 'D'],
        'worker': [1,1,2,1,2,3,1,2,3,4],
        'boxes': [105, 90, 100, 80, 10, 200, 70, 210, 50, 0],
        'optimal_boxes': [0,0,0,0,0,0,0,0,0,0]}
df_stack_exchange = pandas.DataFrame(data_stack_exchange)

print("原始数据框:")
print(df_stack_exchange)

原始的数据框如下:

  store  worker  boxes  optimal_boxes
0     A       1    105              0
1     B       1     90              0
2     B       2    100              0
3     C       1     80              0
4     C       2     10              0
5     C       3    200              0
6     D       1     70              0
7     D       2    210              0
8     D       3     50              0
9     D       4      0              0

预期的结果数据框如下:

  store  worker  boxes  optimal_boxes
0     A       1    105            105
1     B       1     90            100
2     B       2    100             90
3     C       1     80            100
4     C       2     10            100
5     C       3    200             90
6     D       1     70            100
7     D       2    210            100
8     D       3     50            100
9     D       4      0             30

一个常见的初学者方法是使用groupby().apply()结合条件判断和手动iloc索引来处理每个组。然而,这种方法存在严重缺陷:它要求针对不同组大小编写冗长的if/elif语句,并且在每个分支中手动指定iloc索引。这不仅导致代码重复,而且当组大小增加时,代码将变得难以维护和扩展。

优化方案:利用 groupby().transform() 实现可扩展分配

为了解决上述问题,我们可以设计一个更通用的函数,该函数能够处理任意大小的组,并利用pandas.groupby().transform()方法将结果高效地应用回原始数据框。transform()方法特别适用于此类场景,因为它要求自定义函数返回一个与输入组具有相同索引和长度的Series或DataFrame,从而可以直接将结果映射回原始数据框的相应位置。

核心分配逻辑函数

我们将创建一个名为assign_boxes的函数,它接收一个Pandas Series(代表一个商店中所有工人的boxes列),并返回一个列表,其中包含每个工人应获得的optimal_boxes数量。

应用程序在线商店宣传网站模板
应用程序在线商店宣传网站模板

应用程序在线商店宣传网站模板是一款提供免费应用程序在线商店宣传网站模板下载。提示:本模板调用到谷歌字体库,可能会出现页面打开比较缓慢。

下载
def assign_boxes(s: pandas.Series) -> list:
    """
    根据分配规则计算每个工人的最优箱子数量。

    参数:
        s (pandas.Series): 一个商店中所有工人的 'boxes' 列。

    返回:
        list: 对应每个工人应分配的 'optimal_boxes' 数量列表。
    """
    total_boxes = s.sum()  # 计算当前商店箱子总数
    num_workers = len(s)   # 获取当前商店的工人数量

    # 处理单人商店的特殊情况:如果只有一个工人,他将获得所有箱子
    if num_workers == 1:
        return [total_boxes]

    # 对于多于一个工人的商店,计算能分配满100箱子的工人数量
    # d 是能够获得完整100箱子的工人数量。
    # min(total_boxes // 100, num_workers - 1) 的逻辑是:
    # 1. total_boxes // 100 给出理论上能分配满100箱子的工人数量。
    # 2. num_workers - 1 是为了确保至少有一个工人(最后一个工人)可以获得剩余的箱子,
    #    即使这部分箱子超过100。这样避免了所有工人都分配满100后,还有箱子剩余但无人接收的情况。
    d = min(total_boxes // 100, num_workers - 1)

    # 构建分配列表
    # 1. [100] * d: 前 d 个工人每人获得 100 箱子。
    # 2. [total_boxes - 100 * d]: 第 d+1 个工人获得剩余的所有箱子。
    # 3. [0] * (num_workers - d - 1): 如果还有多余的工人,他们将获得 0 箱子。
    assigned_list = [100] * d + [total_boxes - 100 * d] + [0] * (num_workers - d - 1)

    return assigned_list

详细解释 assign_boxes 函数逻辑

为了更好地理解上述函数,我们通过几个示例来逐步分析其工作原理:

示例 1: 商店D的箱子分配 (s = [70, 210, 50, 0])

  1. s = pd.Series([70, 210, 50, 0]) (对应boxes列,按worker排序后)
  2. total_boxes = s.sum() 得到 330
  3. num_workers = len(s) 得到 4
  4. num_workers == 1 为 False。
  5. d = min(total_boxes // 100, num_workers - 1)
    • total_boxes // 100 = 330 // 100 = 3
    • num_workers - 1 = 4 - 1 = 3
    • d = min(3, 3) = 3
  6. assigned_list 构建:
    • [100] * d 变为 [100] * 3 -> [100, 100, 100]
    • [total_boxes - 100 * d] 变为 [330 - 100 * 3] -> [30]
    • [0] * (num_workers - d - 1) 变为 [0] * (4 - 3 - 1) -> [0] * 0 -> []
  7. 最终 assigned_list = [100, 100, 100, 30]

示例 2: 商店B的箱子分配 (s = [90, 100])

  1. s = pd.Series([90, 100])
  2. total_boxes = s.sum() 得到 190
  3. num_workers = len(s) 得到 2
  4. num_workers == 1 为 False。
  5. d = min(total_boxes // 100, num_workers - 1)
    • total_boxes // 100 = 190 // 100 = 1
    • num_workers - 1 = 2 - 1 = 1
    • d = min(1, 1) = 1
  6. assigned_list 构建:
    • [100] * d 变为 [100] * 1 -> [100]
    • [total_boxes - 100 * d] 变为 [190 - 100 * 1] -> [90]
    • [0] * (num_workers - d - 1) 变为 [0] * (2 - 1 - 1) -> [0] * 0 -> []
  7. 最终 assigned_list = [100, 90]

应用 assign_boxes 函数到数据框

现在,我们可以将这个函数应用到我们的数据框中。首先,我们需要确保每个商店内的工人是按优先级(worker列)排序的,因为我们的分配逻辑是基于顺序的。然后,使用groupby('store')['boxes'].transform(assign_boxes)来执行分配。

# 确保在每个商店内部,工人是按 worker ID 排序的,以便正确分配优先级
df_stack_exchange_sorted = df_stack_exchange.sort_values(by=['store', 'worker']).copy()

# 应用自定义函数,并将其结果直接赋值给 'optimal_boxes' 列
df_stack_exchange_sorted['optimal_boxes'] = df_stack_exchange_sorted.groupby('store')['boxes'].transform(assign_boxes)

print("\n最终分配结果数据框:")
print(df_stack_exchange_sorted)

输出结果:

最终分配结果数据框:
  store  worker  boxes  optimal_boxes
0     A       1    105            105
1     B       1     90            100
2     B       2    100             90
3     C       1     80            100
4     C       2     10            100
5     C       3    200             90
6     D       1     70            100
7     D       2    210            100
8     D       3     50            100
9     D       4      0             30

这个结果与我们预期的完全一致。

优势与注意事项

  1. 可扩展性: assign_boxes 函数的逻辑与组的大小无关,它能够自动适应任何数量的工人,无需手动添加if/elif分支或iloc索引,极大地提高了代码的可维护性和可扩展性。
  2. 效率: groupby().transform() 是Pandas中高度优化的操作,通常比使用apply()配合循环或列表推导式更高效,尤其是在处理大型数据集时。
  3. 代码简洁性: 将复杂逻辑封装在一个函数中,并利用Pandas的内置功能,使主代码流保持简洁和易读。
  4. 排序的重要性: 在应用此方法之前,确保数据框已根据分组键和优先级键(如store和worker)正确排序至关重要,因为transform操作会按组内元素的原始顺序应用函数并返回结果。
  5. transform与apply的区别: transform要求其作用的函数返回一个与输入组具有相同长度的Series或DataFrame,或者一个标量值(此时标量值会被广播到整个组)。这使其非常适合将组级计算结果直接映射回原始数据框的每一行。而apply则更通用,可以返回任何类型的对象,但通常需要额外的步骤来将结果重新整合到数据框中。

总结

通过本教程,我们学习了如何利用Pandas的groupby().transform()方法,结合一个精心设计的自定义函数,高效且可扩展地解决分组数据中的条件分配问题。这种方法不仅避免了传统手动iloc索引带来的不可伸缩性,还通过将复杂逻辑封装在通用函数中,显著提升了代码的专业性和可维护性。掌握这种模式对于处理大规模数据集和实现复杂业务逻辑的自动化至关重要。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

340

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

252

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

711

2026.04.13

PHP 命令行脚本与自动化任务开发
PHP 命令行脚本与自动化任务开发

本专题系统讲解 PHP 在命令行环境(CLI)下的开发与应用,内容涵盖 PHP CLI 基础、参数解析、文件与目录操作、日志输出、异常处理,以及与 Linux 定时任务(Cron)的结合使用。通过实战示例,帮助开发者掌握使用 PHP 构建 自动化脚本、批处理工具与后台任务程序 的能力。

506

2025.12.13

Figma AI自动化智能数据填充与交互生成实战
Figma AI自动化智能数据填充与交互生成实战

告别机械重复,详细演示如何用 AI 填充业务真实数据,并自动为页面添加交互连线,将静态设计稿快速转变为动态原型。

325

2026.05.13

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

60

2026.10.28

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

20

2026.10.28

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

40

2026.10.28

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

140

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
uni-app从入门到实战教程
uni-app从入门到实战教程

共0课时 | 0人学习

uni-app x harmony开发指南
uni-app x harmony开发指南

共0课时 | 0人学习

uni-app鸿蒙运行和发行
uni-app鸿蒙运行和发行

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn