讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在 Pandas 中安全比较含 NaN 的日期列并获取每组最大有效日期

落晨酱_8397

落晨酱_8397

发布时间:2026-02-03 08:38:21

|

704人浏览过

|

来源于php中文网

原创

如何在 Pandas 中安全比较含 NaN 的日期列并获取每组最大有效日期

本文介绍如何在存在缺失值(nan)的情况下,对多个日期列进行跨列比较,按分组筛选出满足“日期必须不小于基准日期”条件的最大有效日期,并统一格式化输出。

在实际数据处理中,常需校验业务逻辑约束,例如:cop_date 和 fat_date 均应 ≥ date;若不满足,则视为无效值(置为 NaT),再按分组(如 id + ins_id)取各列中满足条件的最大有效日期(即:同组内所有合法 cop_date 中的最大值,填充到该组全部行;fat_date 同理)。关键在于:既要正确识别并屏蔽非法日期,又要保留组内有效值的聚合能力,同时妥善处理 NaN/NaT。

以下是完整、健壮的实现步骤:

✅ 步骤 1:统一转换为 datetime 类型

确保所有日期列解析为 datetime64[ns],便于后续比较和运算。推荐显式指定格式以提升鲁棒性(尤其当数据含不规范字符串时):

dates = ['date', 'cop_date', 'fat_date']
df[dates] = df[dates].apply(lambda x: pd.to_datetime(x, format='%d/%m/%Y', errors='coerce'))
⚠️ 注意:errors='coerce' 可将无法解析的值自动转为 NaT,避免报错。

✅ 步骤 2:标记并过滤非法日期

构造布尔掩码,仅保留 cop_date >= date 和 fat_date >= date 的记录;不满足者设为 NaT:

Yyds.Auto
Yyds.Auto

通过MCP控制Android设备——点击、滑动、OCR、截图、UI自动化、Shell、文件管理及AI代理编排,实现Android RPA。

下载
m1 = df['cop_date'] >= df['date']   # 注意:题目原文用 lt(小于),但业务逻辑要求“应大于等于”,故此处修正为 ge
m2 = df['fat_date'] >= df['date']

# 使用 .where() 保留合法值,非法值转为 NaT
df['cop_date'] = df['cop_date'].where(m1)
df['fat_date'] = df['fat_date'].where(m2)

✅ 步骤 3:按组填充最大合法日期

利用 groupby(...).transform('max') 对每组内非空日期取最大值,并广播回原 DataFrame:

group_cols = ['id', 'ins_id']
df['cop_date'] = df.groupby(group_cols)['cop_date'].transform('max')
df['fat_date'] = df.groupby(group_cols)['fat_date'].transform('max')

✅ 优势:transform('max') 自动忽略 NaT,仅基于有效日期计算最大值;若整组无合法日期,则结果仍为 NaT,语义清晰。

✅ 步骤 4:格式化回原始字符串(可选)

如需输出为 'DD/MM/YYYY' 字符串格式:

df[dates] = df[dates].apply(lambda x: x.dt.strftime('%d/%m/%Y') if pd.api.types.is_datetime64_any_dtype(x) else x)

? 完整整合代码(推荐写法)

import pandas as pd

# 1. 转 datetime(容错解析)
dates = ['date', 'cop_date', 'fat_date']
df[dates] = df[dates].apply(lambda x: pd.to_datetime(x, format='%d/%m/%Y', errors='coerce'))

# 2. 筛选合法日期:>= date
df['cop_date'] = df['cop_date'].where(df['cop_date'] >= df['date'])
df['fat_date'] = df['fat_date'].where(df['fat_date'] >= df['date'])

# 3. 按组填充最大合法日期
group_cols = ['id', 'ins_id']
df['cop_date'] = df.groupby(group_cols)['cop_date'].transform('max')
df['fat_date'] = df.groupby(group_cols)['fat_date'].transform('max')

# 4. 格式化输出(可选)
df[dates] = df[dates].apply(lambda x: x.dt.strftime('%d/%m/%Y') if pd.api.types.is_datetime64_any_dtype(x) else x)

? 关键注意事项

  • 逻辑一致性:题干中“date should always be greater than cop_date”表述易引发歧义;实际业务中更常见的是 cop_date 应 ≥ date(即“不得早于”),本方案按此合理语义实现。若确需反向逻辑(如强制取最小且 ≥ date 的值),只需将 'max' 替换为 'min'。
  • 性能优化:对大数据集,避免链式 .apply();优先使用向量化操作(如 where, groupby.transform)。
  • NaN vs NaT:pd.to_datetime() 将字符串 NaN 自动转为 NaT(时间缺失值),二者在比较和聚合中行为一致,无需额外处理。

通过以上四步,即可在保证数据完整性与业务约束的前提下,高效完成多日期列的条件化最大值提取与填充。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

LibLibAI
LibLibAI Hot

一款AI视频创作工具,主要用于国内领先的AI创意平台,以海量模型、低门槛操作与“创作-分享-商业化”生态,让小白与专业创作者都能高效实现图文乃至视频创意表达,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

320

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

252

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

471

2026.04.13

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1678

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

2544

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

5984

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

5389

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

7094

2024.03.22

PixTV官网入口地址合集
PixTV官网入口地址合集

本专题汇总了 PixTV AI 一站式视频创作平台的官方入口与使用教程。无需下载软件,浏览器直接访问即可使用。平台将剧本、图像、视频、声音与剪辑整合在“无限画布”中,接入 GPT Image 2.5、Seedance 2.5 等头部模型。本专题整理了从新建画布、角色锚定、分镜拆分到视频生成与导出的完整操作指南,助你快速上手 AI 短剧与漫剧创作。

40

2026.10.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn