目录
思路及实现
使用第三方库
首页 后端开发 Python教程 Python 教程:如何使用 Python 分割和合并大文件?

Python 教程:如何使用 Python 分割和合并大文件?

Apr 22, 2023 am 11:43 AM
python 工具 分配

有时候,我们需要把一个大文件发送给别人,但是限于传输通道的限制,比如邮箱附件大小的限制,或者网络状况不太好,需要将大文件分割成小文件,分多次发送,接收端再对这些小文件进行合并。今天就来分享一下用 Python 分割合并大文件的方法。

思路及实现

如果是文本文件,可以按行数分割。无论是文本文件还是二进制文件,都可以按指定大小进行分割。

使用 Python 的文件读写功能就可以实现文件的分割与合并,设置每个文件的大小,然后读取指定大小的字节就写入一个新文件,接收端依次读取小文件,把读取到的字节按序写入一个文件,就可以完成合并。

分割

size = 1024 * 1000 * 10# 10MB
with open("bigfile", "rb") as reader:
part = 1
while True:
part_content = reader.read(size)
if not part_content:
print("split done.")
break
with open(f"bigfile_part{part}","wb") as writer:
writer.write(part_content)
登录后复制

合并

total_parts = 5
with open("bigfile","wb") as writer:
for i in range(5):
with open(f"bigfile_part{i}", "rb") as reader:
writer.write(reader.read())
登录后复制

使用第三方库

虽然可以自己写,但是别人写好了,为什么不节省点时间直接用呢?直接 pip 安装就可以了:

pip install filesplit
登录后复制

分割

from filesplit.split import Split
split = Split("./data.rar", "./output")
split.bysize(size = 1024*1000*10) # 每个文件最多 10MB
登录后复制

执行之后,我们就可以在 output 文件夹里看到分割好的文件:

一文教会你如何用 Python 分割合并大文件

你也可以按照文件行数进行分割:

split.bylinecount(linecount = 10000) # 每个文件最多 10000 行
登录后复制

合并

合并需要对文件夹里的小文件进行合并,该工具要求文件夹内必须有 manifest 文件,其格式如下:

filename,filesize,header
data_1.rar,10000000,False
data_2.rar,10000000,False
data_3.rar,10000000,False
data_4.rar,10000000,False
data_5.rar,1304145,False
登录后复制

合并文件的代码只需要指定要合并的目录,目标目录,合并后的文件名,代码如下:

from filesplit.merge import Merge
merge = Merge(inputdir = "./output", outputdir="./merge", outputfilename = "merged.rar")
merge.merge()
登录后复制

执行之后就可以在 merge 目录内看到合并后的文件:

一文教会你如何用 Python 分割合并大文件

以上是Python 教程:如何使用 Python 分割和合并大文件?的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

热门话题

Java教程
1663
14
CakePHP 教程
1420
52
Laravel 教程
1315
25
PHP教程
1266
29
C# 教程
1239
24
数字货币app是啥软件?全球数字货币十大app盘点 数字货币app是啥软件?全球数字货币十大app盘点 Apr 30, 2025 pm 07:06 PM

随着数字货币的普及和发展,越来越多的人开始关注和使用数字货币app。这些应用程序为用户提供了便捷的管理和交易数字资产的方式。那么,数字货币app到底是什么软件呢?让我们深入了解,并盘点全球十大数字货币app。

量化交易所排行榜2025 数字货币量化交易APP前十名推荐 量化交易所排行榜2025 数字货币量化交易APP前十名推荐 Apr 30, 2025 pm 07:24 PM

交易所内置量化工具包括:1. Binance(币安):提供Binance Futures量化模块,低手续费,支持AI辅助交易。2. OKX(欧易):支持多账户管理和智能订单路由,提供机构级风控。独立量化策略平台有:3. 3Commas:拖拽式策略生成器,适用于多平台对冲套利。4. Quadency:专业级算法策略库,支持自定义风险阈值。5. Pionex:内置16 预设策略,低交易手续费。垂直领域工具包括:6. Cryptohopper:云端量化平台,支持150 技术指标。7. Bitsgap:

Laravel 日志与错误监控:Sentry 和 Bugsnag 集成 Laravel 日志与错误监控:Sentry 和 Bugsnag 集成 Apr 30, 2025 pm 02:39 PM

在Laravel中集成Sentry和Bugsnag可以提高应用的稳定性和性能。1.在composer.json中添加SentrySDK。2.在config/app.php中添加Sentry服务提供者。3.在.env文件中配置SentryDSN。4.在App\Exceptions\Handler.php中添加Sentry错误报告。5.使用Sentry捕获并报告异常,并添加额外上下文信息。6.在App\Exceptions\Handler.php中添加Bugsnag错误报告。7.使用Bugsnag监

轻松协议(Easeprotocol.com)将ISO 20022消息标准直接实现为区块链智能合约 轻松协议(Easeprotocol.com)将ISO 20022消息标准直接实现为区块链智能合约 Apr 30, 2025 pm 05:06 PM

这种开创性的开发将使金融机构能够利用全球认可的ISO20022标准来自动化不同区块链生态系统的银行业务流程。Ease协议是一个企业级区块链平台,旨在通过易用的方式促进广泛采用,今日宣布已成功集成ISO20022消息传递标准,直接将其纳入区块链智能合约。这一开发将使金融机构能够使用全球认可的ISO20022标准,轻松自动化不同区块链生态系统的银行业务流程,该标准正在取代Swift消息传递系统。这些功能将很快在“EaseTestnet”上进行试用。EaseProtocolArchitectDou

数字货币app是正规的吗?全球正规合法虚拟币交易app前十 数字货币app是正规的吗?全球正规合法虚拟币交易app前十 Apr 30, 2025 pm 07:09 PM

推荐的加密货币交易平台包括:1. Binance:全球最大交易量,支持1400 币种,FCA、MAS认证。2. OKX:技术实力强,支持400 币种,香港证监会批准。3. Coinbase:美国最大合规平台,适合新手,SEC和FinCEN监管。4. Kraken:欧洲老牌,ISO 27001认证,持美国MSB及英国FCA牌照。5. Gate.io:币种最全(800 ),低交易费,获多国牌照。6. Huobi Global:老牌平台,提供多种服务,持日本FSA及香港TCSP牌照。7. KuCoin

香港数字货币交易所app如何下载 十大数字货币交易所APP盘点 香港数字货币交易所app如何下载 十大数字货币交易所APP盘点 Apr 30, 2025 pm 07:12 PM

下载香港数字货币交易所APP的方法包括:1. 选择合规平台,如OSL、HashKey或Binance HK等;2. 通过官方渠道下载,iOS用户在App Store下载,Android用户通过Google Play或官网下载;3. 注册并验证身份,使用香港手机号或邮箱,上传身份和地址证明;4. 设置安全措施,启用双重身份验证并定期检查账户活动。

2025年十大正规虚拟币交易所app排名(数字货币交易平台app榜单) 2025年十大正规虚拟币交易所app排名(数字货币交易平台app榜单) Apr 30, 2025 pm 05:39 PM

2025年十大正规虚拟币交易所app排名:1. OKX,2. Binance,3. 火币,4. Coinbase,5. Kraken,6. Bitfinex,7. KuCoin,8. Gemini,9. Bitstamp,10. Poloniex,各自在安全性、用户体验、交易手续费、流动性、币种丰富度、专业工具、合规性、隐私保护、杠杆交易、国际化程度、客户服务等方面表现突出。

数字货币app有前途吗 苹果手机数字货币交易平台app下载TOP10 数字货币app有前途吗 苹果手机数字货币交易平台app下载TOP10 Apr 30, 2025 pm 07:00 PM

数字货币App的前景广阔,具体体现在:1. 技术创新驱动功能升级,通过DeFi与NFT融合及AI与大数据应用提升用户体验;2. 监管合规化趋势,全球框架完善及AML、KYC要求趋严;3. 功能多元化与服务拓展,整合借贷、理财等服务并优化用户体验;4. 用户基数与全球化扩张,预计2025年用户规模突破10亿。

See all articles