首页 后端开发 Python教程 #|自动提取 PDF 数据:构建

#|自动提取 PDF 数据:构建

Dec 15, 2024 am 11:06 AM

概述

我编写了一个 Python 脚本,将 PDF 数据提取业务逻辑转换为工作代码。

该脚本在71 页 涵盖 10 个月期间(2024 年 1 月至 10 月)的托管人声明 PDF 中进行了测试。处理 PDF 大约需要 4 秒 才能完成 - 比手动处理快得多。

# | Automate PDF data extraction: Build

据我所知,输出看起来正确并且代码没有遇到任何错误。

三个 CSV 输出的快照如下所示。请注意,敏感数据已显示为灰色。

快照1:持股

# | Automate PDF data extraction: Build

快照2:基金持仓

# | Automate PDF data extraction: Build

快照3:现金持有

# | Automate PDF data extraction: Build

此工作流程显示了我生成 CSV 文件所采取的主要步骤。

# | Automate PDF data extraction: Build

现在,我将更详细地阐述我如何将业务逻辑转换为 Python 代码。

第1步:阅读PDF文档

我使用了 pdfplumber 的 open() 函数。

# Open the PDF file
with pdfplumber.open(file_path) as pdf:
登录后复制
登录后复制

file_path 是一个声明的变量,它告诉 pdfplumber 打开哪个文件。

步骤2.0:从每个页面中提取和过滤表格

extract_tables() 函数完成从每个页面提取所有表格的艰苦工作。

虽然我不太熟悉底层逻辑,但我认为这个功能做得相当不错。例如,下面的两个快照显示了提取的表格与原始表格(来自 PDF)

快照 A:VS Code 终端的输出

# | Automate PDF data extraction: Build

快照 B:PDF 中的表格

# | Automate PDF data extraction: Build

然后我需要对每个表进行唯一标记,以便稍后我可以从特定表中“挑选”数据。

理想的选择是使用每个表的标题。然而,确定标题坐标超出了我的能力。

作为解决方法,我通过连接前三列的标题来标识每个表。例如,快照 B 中的 Stock Holdings 表标记为 Stocks/ETFsnNameExchangeQuantity。

⚠️这种方法有一个严重的缺点 - 前三个标头名称不能使所有表都足够唯一。幸运的是,这只会影响不相关的表。

步骤2.1:提取、过滤和转换非表格文本

我需要的具体值 - 帐号和对账单日期 - 是每个 PDF 第 1 页中的子字符串。

例如“帐号M1234567”包含帐号“M1234567”。

# | Automate PDF data extraction: Build

我使用了 Python 的 re 库并让 ChatGPT 推荐了合适的正则表达式(“regex”)。正则表达式将每个字符串分为两组,所需数据位于第二组中。

账单日期和帐号字符串的正则表达式

# Open the PDF file
with pdfplumber.open(file_path) as pdf:
登录后复制
登录后复制

接下来我将报表日期转换为“yyyymmdd”格式。这使得查询和排序数据变得更加容易。

regex_date=r'Statement for \b([A-Za-z]{3}-\d{4})\b'
regex_acc_no=r'Account Number ([A-Za-z]\d{7})'
登录后复制

match_date 是在找到与正则表达式匹配的字符串时声明的变量。

步骤 3:创建表格数据

硬码 - 提取相关数据点 - 此时已经基本完成。

接下来,我使用 pandas 的 DataFrame() 函数根据 第 2 步第 3 步 中的输出创建表格数据。我还使用此功能删除不必要的列和行。

最终结果可以轻松写入 CSV 或存储在数据库中。

步骤 4:将数据写入 CSV 文件

我使用 Python 的 write_to_csv() 函数将每个数据帧写入 CSV 文件。

 if match_date:
    # Convert string to a mmm-yyyy date
    date_obj=datetime.strptime(match_date.group(1),"%b-%Y")
    # Get last day of the month
    last_day=calendar.monthrange(date_obj.year,date_obj.month[1]
    # Replace day with last day of month
    last_day_of_month=date_obj.replace(day=last_day)
    statement_date=last_day_of_month.strftime("%Y%m%d")
登录后复制

df_cash_selected 是 Cash Holdings 数据框,而 file_cash_holdings 是 Cash Holdings CSV 的文件名。

➡️一旦掌握了一些数据库知识,我就会将数据写入合适的数据库。

下一步

工作脚本现已到位,可从托管人声明 PDF 中提取表格和文本数据。

在继续之前,我将运行一些测试来查看脚本是否按预期工作。

--结束

以上是#|自动提取 PDF 数据:构建的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

热门话题

Java教程
1653
14
CakePHP 教程
1413
52
Laravel 教程
1306
25
PHP教程
1251
29
C# 教程
1224
24
Python vs.C:申请和用例 Python vs.C:申请和用例 Apr 12, 2025 am 12:01 AM

Python适合数据科学、Web开发和自动化任务,而C 适用于系统编程、游戏开发和嵌入式系统。 Python以简洁和强大的生态系统着称,C 则以高性能和底层控制能力闻名。

您可以在2小时内学到多少python? 您可以在2小时内学到多少python? Apr 09, 2025 pm 04:33 PM

两小时内可以学到Python的基础知识。1.学习变量和数据类型,2.掌握控制结构如if语句和循环,3.了解函数的定义和使用。这些将帮助你开始编写简单的Python程序。

Python:游戏,Guis等 Python:游戏,Guis等 Apr 13, 2025 am 12:14 AM

Python在游戏和GUI开发中表现出色。1)游戏开发使用Pygame,提供绘图、音频等功能,适合创建2D游戏。2)GUI开发可选择Tkinter或PyQt,Tkinter简单易用,PyQt功能丰富,适合专业开发。

2小时的Python计划:一种现实的方法 2小时的Python计划:一种现实的方法 Apr 11, 2025 am 12:04 AM

2小时内可以学会Python的基本编程概念和技能。1.学习变量和数据类型,2.掌握控制流(条件语句和循环),3.理解函数的定义和使用,4.通过简单示例和代码片段快速上手Python编程。

Python与C:学习曲线和易用性 Python与C:学习曲线和易用性 Apr 19, 2025 am 12:20 AM

Python更易学且易用,C 则更强大但复杂。1.Python语法简洁,适合初学者,动态类型和自动内存管理使其易用,但可能导致运行时错误。2.C 提供低级控制和高级特性,适合高性能应用,但学习门槛高,需手动管理内存和类型安全。

Python:探索其主要应用程序 Python:探索其主要应用程序 Apr 10, 2025 am 09:41 AM

Python在web开发、数据科学、机器学习、自动化和脚本编写等领域有广泛应用。1)在web开发中,Django和Flask框架简化了开发过程。2)数据科学和机器学习领域,NumPy、Pandas、Scikit-learn和TensorFlow库提供了强大支持。3)自动化和脚本编写方面,Python适用于自动化测试和系统管理等任务。

Python和时间:充分利用您的学习时间 Python和时间:充分利用您的学习时间 Apr 14, 2025 am 12:02 AM

要在有限的时间内最大化学习Python的效率,可以使用Python的datetime、time和schedule模块。1.datetime模块用于记录和规划学习时间。2.time模块帮助设置学习和休息时间。3.schedule模块自动化安排每周学习任务。

Python:自动化,脚本和任务管理 Python:自动化,脚本和任务管理 Apr 16, 2025 am 12:14 AM

Python在自动化、脚本编写和任务管理中表现出色。1)自动化:通过标准库如os、shutil实现文件备份。2)脚本编写:使用psutil库监控系统资源。3)任务管理:利用schedule库调度任务。Python的易用性和丰富库支持使其在这些领域中成为首选工具。

See all articles