讲师中心 微信公众号
AI工具推荐 视频效率加速

Pandas 中按 code 分组前向填充 -1 值并按时间排序的正确实践

老墨君_5131

老墨君_5131

发布时间:2026-03-15 13:49:01

|

344人浏览过

|

来源于php中文网

原创

Pandas 中按 code 分组前向填充 -1 值并按时间排序的正确实践

本文详解如何在 Pandas DataFrame 中,针对每个 code 独立地将列 A/B/C 中的 -1 视为缺失值进行前向填充(ffill),再按 calendardate 时间顺序输出结果,避免跨 code 混淆或时间错序。

本文详解如何在 pandas dataframe 中,针对每个 `code` 独立地将列 a/b/c 中的 `-1` 视为缺失值进行前向填充(ffill),再按 `calendardate` 时间顺序输出结果,避免跨 code 混淆或时间错序。

在金融、IoT 或时序监控等场景中,常遇到带标识码(如 code)和时间戳(如 calendardate)的多维观测数据,其中某些字段用 -1 表示“暂不可用”或“无效采样”。此时,简单全局替换或按时间分组填充均无法满足业务逻辑——真正的语义是:对每个 code 独立维护其 A/B/C 的最新有效值,并随时间推移向前传播。

错误做法(如原问题中按 calendardate 分组)会导致不同 code 的记录被强制聚合,破坏数据隔离性;而未先分组直接 ffill() 则会跨 code 泄漏值(例如 B1 的 A 值污染 A1 的 A 列)。正确解法需严格遵循两步核心逻辑:

  1. 以 code 为单位分组,确保各实体状态独立演进;
  2. 将 -1 统一映射为 pd.NA(或 np.nan),再对目标列执行 ffill(),利用 Pandas 原生前向填充机制跳过缺失值;
  3. 最后按 calendardate 全局排序,保证输出符合时间序列阅读习惯。

以下是完整、可复现的实现方案(适配 Pandas ≥ 2.0):

import pandas as pd
import numpy as np

# 构造示例数据
data = {
    'code': ['A1', 'A1', 'A1', 'A1', 'A1', 'A1', 'B1', 'B1', 'B1', 'B1'],
    'calendardate': [
        '2024-02-29 09:00:00', '2024-02-29 09:05:00', '2024-02-29 09:10:00', '2024-02-29 09:15:00',
        '2024-02-29 09:20:00', '2024-02-29 09:25:00', '2024-02-29 09:00:00', '2024-02-29 09:05:00',
        '2024-02-29 09:10:00', '2024-02-29 09:15:00'
    ],
    'A': [10, -1, 20, -1, 30, 40, 50, -1, -1, 60],
    'B': [-1, 15, -1, 25, -1, 35, -1, 45, -1, -1],
    'C': [-1, -1, -1, 35, -1, -1, -1, -1, 55, 65]
}
df = pd.DataFrame(data)
df['calendardate'] = pd.to_datetime(df['calendardate'])

# ✅ 正确步骤:先按 code 分组,再对指定列前向填充 -1
target_cols = ['A', 'B', 'C']
df[target_cols] = df.replace(-1, pd.NA).groupby('code')[target_cols].ffill()

# ✅ 最后按时间排序,确保输出有序
df = df.sort_values('calendardate').reset_index(drop=True)

# 可选:格式化输出(如需逐行打印)
for _, row in df.iterrows():
    print(f"Datetime: {row['calendardate']}")
    print(f"Code: {row['code']}")
    print(f"A: {row['A'] if pd.notna(row['A']) else 'N/A'}")
    print(f"B: {row['B'] if pd.notna(row['B']) else 'N/A'}")
    print(f"C: {row['C'] if pd.notna(row['C']) else 'N/A'}")
    print("-" * 30)

运行后关键片段验证(对应问题中期望的第三行):

Datetime: 2024-02-29 09:05:00
Code: A1
A: 10.0      ← 来自 A1 在 09:00 的有效值(-1 被前向填充)
B: 15.0      ← A1 在 09:05 首次出现的有效值
C: N/A       ← A1 尚无非 -1 的 C 值,保持缺失
------------------------------

⚠️ 注意事项与最佳实践:

  • replace(-1, pd.NA) 优于 replace(-1, np.nan):Pandas 2.0+ 推荐使用 pd.NA 作为统一缺失值标记,它在链式操作(如 groupby().ffill())中行为更稳健,尤其当列含整数类型时,np.nan 会强制升格为浮点型,而 pd.NA 可配合 Int64 等可空整数类型保留原始语义;
  • 勿省略 sort_values('calendardate'):groupby().ffill() 不改变原始行序,若原始数据未按时间排序,填充结果将不符合“最新有效值”定义;
  • 扩展性提示:若需对更多列(如 D, E)执行相同逻辑,只需扩展 target_cols 列表;若 -1 语义需动态配置(如不同列用不同哨兵值),可用字典映射:df.replace({'A': -1, 'B': -1, 'C': -1}, pd.NA);
  • 性能优化:对于超大规模数据,可考虑 df.sort_values(['code', 'calendardate']) 后使用 groupby('code', group_keys=False) 避免重复排序。

该方法简洁、高效、语义清晰,是处理带实体标识的时序脏数据的标准范式。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1771

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

4604

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1729

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

27177

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3287

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3287

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1203

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

596

2023.08.10

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

80

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn