首頁 後端開發 Python教學 #|自動提取 PDF 資料:構建

#|自動提取 PDF 資料:構建

Dec 15, 2024 am 11:06 AM

概述

我寫了一個 Python 腳本,將 PDF 資料擷取業務邏輯轉換為工作程式碼。

該腳本在71 頁 涵蓋 10 個月期間(2024 年 1 月至 10 月)的託管人聲明 PDF 中進行了測試。處理 PDF 大約需要 4 秒 才能完成 - 比手動處理快得多。

# | Automate PDF data extraction: Build

據我所知,輸出看起來正確且程式碼沒有遇到任何錯誤。

三個 CSV 輸出的快照如下圖所示。請注意,敏感資料已顯示為灰色。

快照1:持股

# | Automate PDF data extraction: Build

快照2:基金持股

# | Automate PDF data extraction: Build

快照3:現金持有

# | Automate PDF data extraction: Build

此工作流程顯示了我產生 CSV 檔案所採取的主要步驟。

# | Automate PDF data extraction: Build

現在,我將更詳細地闡述我如何將業務邏輯轉換為 Python 程式碼。

第1步:閱讀PDF文檔

我使用了 pdfplumber 的 open() 函數。

# Open the PDF file
with pdfplumber.open(file_path) as pdf:
登入後複製
登入後複製

file_path 是一個宣告的變量,它告訴 pdfplumber 要開啟哪個檔案。

步驟2.0:從每個頁面擷取並篩選表格

extract_tables() 函數完成從每個頁面提取所有表格的艱苦工作。

雖然我不太熟悉底層邏輯,但我認為這個功能做得相當不錯。例如,下面的兩個快照顯示了提取的表格與原始表格(來自 PDF)

快照 A:VS Code 終端機的輸出

# | Automate PDF data extraction: Build

快照 B:PDF 中的表格

# | Automate PDF data extraction: Build

然後我需要為每個表格添加唯一的標籤,以便稍後我可以從特定表中「挑選」資料。

理想的選擇是使用每個表的標題。然而,確定標題座標超出了我的能力。

作為解決方法,我透過連接前三列的標題來標識每個表。例如,快照 B 中的 Stock Holdings 表標記為 Stocks/ETFsnNameExchangeQuantity。

⚠️這種方法有一個嚴重的缺點 - 前三個標頭名稱不能使所有表都足夠唯一。幸運的是,這只會影響不相關的表。

步驟2.1:提取、過濾和轉換非表格文本

我需要的具體值 - 帳號和對帳單日期 - 是每個 PDF 第 1 頁中的子字串。

例如「帳號M1234567」包含帳號「M1234567」。

# | Automate PDF data extraction: Build

我使用了 Python 的 re 函式庫並讓 ChatGPT 推薦了合適的正規表示式(「regex」)。正規表示式將每個字串分為兩組,所需資料位於第二組中。

帳單日期和帳號字串的正規表示式

# Open the PDF file
with pdfplumber.open(file_path) as pdf:
登入後複製
登入後複製

接下來我將報表日期轉換為「yyyymmdd」格式。這使得查詢和排序資料變得更加容易。

regex_date=r'Statement for \b([A-Za-z]{3}-\d{4})\b'
regex_acc_no=r'Account Number ([A-Za-z]\d{7})'
登入後複製

match_date 是在找到與正規表示式相符的字串時宣告的變數。

步驟 3:建立表格數據

硬碼 - 擷取相關資料點 - 此時已基本完成。

接下來,我使用 pandas 的 DataFrame() 函數根據 第 2 步第 3 步 中的輸出建立表格資料。我還使用此功能刪除不必要的列和行。

最終結果可以輕鬆寫入 CSV 或儲存在資料庫中。

步驟 4:將資料寫入 CSV 文件

我使用 Python 的 write_to_csv() 函數將每個資料幀寫入 CSV 檔案。

 if match_date:
    # Convert string to a mmm-yyyy date
    date_obj=datetime.strptime(match_date.group(1),"%b-%Y")
    # Get last day of the month
    last_day=calendar.monthrange(date_obj.year,date_obj.month[1]
    # Replace day with last day of month
    last_day_of_month=date_obj.replace(day=last_day)
    statement_date=last_day_of_month.strftime("%Y%m%d")
登入後複製

df_cash_selected 是 Cash Holdings 資料框,而 file_cash_holdings 是 Cash Holdings CSV 的檔案名稱。

➡️一旦掌握了一些資料庫知識,我就會將資料寫入合適的資料庫。

下一步

工作腳本現已到位,可從託管人聲明 PDF 中提取表格和文字資料。

在繼續之前,我將執行一些測試來查看腳本是否按預期工作。

--結束

以上是#|自動提取 PDF 資料:構建的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

<🎜>:泡泡膠模擬器無窮大 - 如何獲取和使用皇家鑰匙
4 週前 By 尊渡假赌尊渡假赌尊渡假赌
北端:融合系統,解釋
4 週前 By 尊渡假赌尊渡假赌尊渡假赌
Mandragora:巫婆樹的耳語 - 如何解鎖抓鉤
3 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

熱門話題

Java教學
1671
14
CakePHP 教程
1428
52
Laravel 教程
1331
25
PHP教程
1276
29
C# 教程
1256
24
Python與C:學習曲線和易用性 Python與C:學習曲線和易用性 Apr 19, 2025 am 12:20 AM

Python更易學且易用,C 則更強大但複雜。 1.Python語法簡潔,適合初學者,動態類型和自動內存管理使其易用,但可能導致運行時錯誤。 2.C 提供低級控制和高級特性,適合高性能應用,但學習門檻高,需手動管理內存和類型安全。

Python和時間:充分利用您的學習時間 Python和時間:充分利用您的學習時間 Apr 14, 2025 am 12:02 AM

要在有限的時間內最大化學習Python的效率,可以使用Python的datetime、time和schedule模塊。 1.datetime模塊用於記錄和規劃學習時間。 2.time模塊幫助設置學習和休息時間。 3.schedule模塊自動化安排每週學習任務。

Python vs.C:探索性能和效率 Python vs.C:探索性能和效率 Apr 18, 2025 am 12:20 AM

Python在開發效率上優於C ,但C 在執行性能上更高。 1.Python的簡潔語法和豐富庫提高開發效率。 2.C 的編譯型特性和硬件控制提升執行性能。選擇時需根據項目需求權衡開發速度與執行效率。

學習Python:2小時的每日學習是否足夠? 學習Python:2小時的每日學習是否足夠? Apr 18, 2025 am 12:22 AM

每天學習Python兩個小時是否足夠?這取決於你的目標和學習方法。 1)制定清晰的學習計劃,2)選擇合適的學習資源和方法,3)動手實踐和復習鞏固,可以在這段時間內逐步掌握Python的基本知識和高級功能。

Python vs. C:了解關鍵差異 Python vs. C:了解關鍵差異 Apr 21, 2025 am 12:18 AM

Python和C 各有優勢,選擇應基於項目需求。 1)Python適合快速開發和數據處理,因其簡潔語法和動態類型。 2)C 適用於高性能和系統編程,因其靜態類型和手動內存管理。

Python標準庫的哪一部分是:列表或數組? Python標準庫的哪一部分是:列表或數組? Apr 27, 2025 am 12:03 AM

pythonlistsarepartofthestAndArdLibrary,herilearRaysarenot.listsarebuilt-In,多功能,和Rused ForStoringCollections,而EasaraySaraySaraySaraysaraySaraySaraysaraySaraysarrayModuleandleandleandlesscommonlyusedDduetolimitedFunctionalityFunctionalityFunctionality。

Python:自動化,腳本和任務管理 Python:自動化,腳本和任務管理 Apr 16, 2025 am 12:14 AM

Python在自動化、腳本編寫和任務管理中表現出色。 1)自動化:通過標準庫如os、shutil實現文件備份。 2)腳本編寫:使用psutil庫監控系統資源。 3)任務管理:利用schedule庫調度任務。 Python的易用性和豐富庫支持使其在這些領域中成為首選工具。

科學計算的Python:詳細的外觀 科學計算的Python:詳細的外觀 Apr 19, 2025 am 12:15 AM

Python在科學計算中的應用包括數據分析、機器學習、數值模擬和可視化。 1.Numpy提供高效的多維數組和數學函數。 2.SciPy擴展Numpy功能,提供優化和線性代數工具。 3.Pandas用於數據處理和分析。 4.Matplotlib用於生成各種圖表和可視化結果。

See all articles