讲师中心 微信公众号
AI工具推荐 视频效率加速

优化Pandas滚动平均:处理序列两端数据

小敏君_7965

小敏君_7965

发布时间:2025-10-26 12:12:20

|

481人浏览过

|

来源于php中文网

原创

优化Pandas滚动平均:处理序列两端数据

本文旨在解决pandas `rolling().mean()`在处理时间序列两端时产生的`nan`值和数据滞后问题。通过详细阐述`min_periods=1`和`center=true`参数的联合使用,我们将展示如何实现类似matlab `smooth`函数的可变窗口移动平均,从而在不引入`nan`或偏移的情况下,平滑处理整个数据集。

Pandas滚动平均的挑战与默认行为

在数据分析中,移动平均是一种常用的平滑技术,用于消除短期波动并识别长期趋势。Pandas库提供了强大的rolling()方法来实现这一功能。然而,当直接使用df['signal'].rolling(window=N).mean()时,通常会遇到两个主要问题:

  1. 边界NaN值: 默认情况下,rolling()方法需要窗口内有足够的数据点才能计算平均值。这意味着在序列的开始和结束部分,由于数据点不足以填充整个指定窗口,结果会产生NaN(Not a Number)值。例如,对于一个窗口大小为9的移动平均,如果center=True,则前4个和后4个位置将是NaN;如果center=False(默认行为,窗口右对齐),则前8个位置将是NaN。
  2. 数据滞后或偏移: 如果不设置center=True,rolling()方法默认将计算结果分配给窗口的右边缘(即窗口的最后一个元素)。这会导致输出信号相对于原始输入信号产生一个滞后(例如,对于窗口大小为9,会滞后8个位置),使得平滑后的数据与原始数据的时间对齐性变差。

以下是一个默认Pandas滚动平均的示例,以说明这些问题:

import pandas as pd
import numpy as np

# 创建一个示例Series
data = pd.Series(np.sin(np.linspace(0, 10, 50)) + np.random.randn(50) * 0.1)
window_size = 9

# 默认的滚动平均(窗口右对齐,可能产生NaN和滞后)
default_rolling_mean = data.rolling(window=window_size).mean()

print("原始数据前10个点:\n", data.head(10))
print("\n默认滚动平均前10个点(注意NaN和滞后):\n", default_rolling_mean.head(10))
print("\n默认滚动平均后10个点:\n", default_rolling_mean.tail(10))

在上述输出中,可以看到default_rolling_mean的前8个值是NaN,并且结果相对于原始数据是右移的(滞后)。

类似MATLAB smooth函数的需求

在某些应用场景中,我们希望移动平均的行为能够更加“智能”地处理序列两端。例如,MATLAB的smooth函数在处理边界时,会动态调整窗口大小:在序列的起始阶段,窗口会从1开始逐渐增长,直到达到指定的最大窗口大小;在序列的结束阶段,窗口则会逐渐缩小。这种方式的优点是:

响应式金融公司HTML5网站模板
响应式金融公司HTML5网站模板

响应式金融公司HTML5网站模板是一款适合提供家族财富管理、节税互助基金、保险投资、节税投资、财务策划和在线投资计划等服务的金融公司宣传网站模板下载。提示:本模板调用到谷歌字体库,可能会出现页面打开比较缓慢。

下载
  • 避免NaN值: 即使数据点不足,也能计算出有效的平均值。
  • 消除滞后: 通过将计算结果对齐到当前窗口的中心,保持了平滑数据与原始数据的时间同步性。
  • 平滑过渡: 边界处的平均值虽然基于较少的数据点,但仍然提供了有意义的平滑结果。

Pandas解决方案:min_periods与center参数

Pandas的rolling()方法提供了min_periods和center这两个参数,可以完美地模拟上述MATLAB smooth函数的行为,从而解决边界NaN和滞后问题。

  1. min_periods=1: 此参数指定了计算滚动统计量所需的最小观测值数量。将其设置为1,意味着只要窗口中至少有一个有效数据点,就可以计算平均值。这样,在序列的起始和结束部分,即使无法填充完整的window_size,也能得到一个非NaN的结果。窗口会从1开始,逐渐增大到window_size。
  2. center=True: 此参数指示是否将滚动窗口的标签设置为窗口的中心。当设置为True时,计算出的平均值将被放置在当前窗口的中间位置,从而确保平滑后的数据与原始数据在时间上对齐,避免了滞后问题。

结合这两个参数,我们可以实现所需的自适应窗口移动平均:

import pandas as pd
import numpy as np

# 创建一个示例Series
data = pd.Series(np.sin(np.linspace(0, 10, 50)) + np.random.randn(50) * 0.1)
window_size = 9

# 优化后的滚动平均(自适应窗口,中心对齐,无NaN)
optimized_rolling_mean = data.rolling(window=window_size, min_periods=1, center=True).mean()

print("原始数据前10个点:\n", data.head(10))
print("\n优化后滚动平均前10个点(无NaN,中心对齐):\n", optimized_rolling_mean.head(10))
print("\n优化后滚动平均后10个点:\n", optimized_rolling_mean.tail(10))

# 绘制对比图
import matplotlib.pyplot as plt

plt.figure(figsize=(12, 6))
plt.plot(data, label='原始数据', alpha=0.7)
plt.plot(default_rolling_mean, label='默认滚动平均 (window=9)', linestyle='--')
plt.plot(optimized_rolling_mean, label='优化滚动平均 (window=9, min_periods=1, center=True)', color='red')
plt.title('Pandas滚动平均对比')
plt.xlabel('索引')
plt.ylabel('值')
plt.legend()
plt.grid(True)
plt.show()

从输出和对比图中可以看出,optimized_rolling_mean在序列的起始和结束部分都没有NaN值,并且平滑后的曲线与原始数据保持了良好的时间对齐性。在边界处,虽然计算是基于较少的数据点,但其行为与MATLAB的smooth函数非常相似,提供了一个更完整的平滑结果。

注意事项与总结

  • 边界值的特殊性: 尽管min_periods=1解决了NaN问题,但需要理解,在序列两端计算出的平均值是基于小于window_size的数据点。这意味着这些边界处的平均值不如中间部分基于完整窗口的平均值“稳定”或“代表性”。然而,对于许多应用而言,这种平滑的过渡比出现NaN或数据滞后更可取。
  • 性能考量: 对于非常大的数据集,rolling()方法通常是高效的,因为它是用C语言实现的。
  • 适用性: 这种方法非常适用于需要对整个时间序列进行平滑处理,且不希望因边界效应而丢失数据或引入偏移的场景,例如信号处理、金融数据分析等。

通过巧妙地结合min_periods=1和center=True这两个参数,Pandas的rolling()方法能够提供一个强大且灵活的移动平均解决方案,有效地克服了传统固定窗口移动平均在序列边界处的问题,实现了更平滑、更完整的数据处理体验。

热门AI工具

更多
音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

相关专题

更多
fprintf在matlab中的用法
fprintf在matlab中的用法

fprintf是MATLAB中用于格式化输出的函数。fprintf的基本语法为“fprintf(fileID, format, A)”,其中,fileID是一个标识符,用于指定要写入的文件,如果要将数据写入到命令窗口中,则可以使用1作为fileID的值,format是一个字符串,用于指定输出的格式,A是要输出的数据。

718

2023.09.28

数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

4043

2023.10.12

Matlab中length函数的用法
Matlab中length函数的用法

在Matlab中,length函数用于返回向量、数组或字符串中的元素个数。想了解更多length函数的相关内容,可以阅读本专题下面的文章。

518

2023.11.22

Matlab中axis函数用法
Matlab中axis函数用法

在Matlab中,axis函数用于控制坐标轴的范围和比例。想了解更多axis函数的相关内容,可以阅读本专题下面的文章。

912

2023.11.23

subplot在matlab中的用法
subplot在matlab中的用法

subplot在matlab中用于在同一个图窗中创建多个子图。通过指定子图的行数、列数和当前绘图位置,可以在每个子图中绘制不同的图形。想了解更多subplot在matlab中的用法,可以访问下面的文章。

237

2023.11.27

scilab和matlab的区别
scilab和matlab的区别

scilab和matlab的区别:1、注释符号;2、预设变量的表示;3、操作符的用法;4、矩阵的定义与调用;5、程序的编辑与执行;6、数据类型;7、函数库;8、图形界面;9、社区支持与生态系统;10、跨平台兼容性;11、价格。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

289

2023.12.11

Matlab如何四舍五入
Matlab如何四舍五入

Matlab可以通过round函数和格式化输出函数来对数值来进行四舍五入操作。更多关于Matlab相关的问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

1097

2023.12.12

Matlab中axis函数用法介绍
Matlab中axis函数用法介绍

在Matlab中,axis函数用于设置当前坐标轴的范围和刻度。想了解更多axis函数的相关内容,可以阅读本专题下面的文章。

283

2023.12.13

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

100

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
RabbitMQ 教程手册
RabbitMQ 教程手册

共0课时 | 0人学习

C# 教程
C# 教程

共94课时 | 22万人学习

C 教程
C 教程

共75课时 | 9.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn