讲师中心 微信公众号
AI工具推荐 视频效率加速

c++怎么利用多线程并发下载并组装文件_分块写入与文件锁【进阶】

夜明吖_3154

夜明吖_3154

发布时间:2026-03-27 18:55:03

|

734人浏览过

|

来源于php中文网

原创

多线程下载应避免fseek+fwrite,改用pwrite(Linux/macOS)或SetFilePointerEx+WriteFile(Windows)实现原子写入,并预分配文件大小;仅对预分配和元数据更新加锁,分块大小需动态调整,Windows创建文件句柄须显式设置FILE_SHARE_READ。

c++怎么利用多线程并发下载并组装文件_分块写入与文件锁【进阶】

多线程下载时 fseek + fwrite 直接写入会覆盖或错位

分块下载后直接用普通文件指针写入,几乎必然出问题:多个线程同时 fseek 到不同偏移再 fwrite,底层文件指针(FILE* 的内部状态)不是线程安全的,实际写入位置不可控,轻则数据错乱,重则部分块被截断。

正确做法是绕过 C 标准库的缓冲和指针管理,改用系统调用级原子写入:

  • Linux/macOS 用 pwrite:传入绝对偏移,不依赖当前文件位置,天然线程安全
  • Windows 用 SetFilePointerEx + WriteFile,但必须确保每次写前重置指针且加 FILE_FLAG_NO_BUFFERING(否则缓存干扰)
  • 所有平台都推荐先创建空文件并 ftruncate/SetEndOfFile 预分配大小,避免写入时扩容导致的竞态

std::shared_mutex 不适合保护整个文件写入过程

有人想用读写锁串行化所有写操作,这反而把并发下载变成串行写入,吞吐量暴跌——网络等待时间被白白浪费,CPU 和磁盘也闲着。

真正要锁的,只是「预分配文件大小」和「更新已写块元数据」这两处极短临界区:

立即学习“C++免费学习笔记(深入)”;

  • 预分配只需在所有线程启动前做一次,用 std::call_once + std::once_flag 足够
  • 记录哪些块已写完(比如用 std::vector<:atomic>></:atomic>),根本不需要锁——store 是原子的
  • 只有合并阶段(如校验、重排)才需协调,那时下载早已结束,不属并发范畴

分块大小设成 1MB 比 64KB 更稳,但别硬编码

分块太小(如 8KB)会导致 HTTP 请求头开销占比飙升、线程调度压力大;太大(如 50MB)则单块失败重试成本高,内存占用陡增,且可能触发某些服务器的 range 请求限制。

C++ Code Review Master
C++ Code Review Master

组合式C++代码评审方案,融合静态分析、AI推理、多轮迭代评审和C++专项检查,适用于PR审查、增量代码审查、全项目评审和代码质量评分,触发词包括review cpp、cpp代码评审、C++review、代码审查。

下载

经验值和适配逻辑比固定值更重要:

  • 起始块大小建议 1–2MB,根据响应头 Content-Range 中的总长度动态调整:总长 1GB → 4MB
  • 务必检查服务器是否支持 Range:发 HEAD 请求,看响应头有无 Accept-Ranges: bytes
  • 遇到 416 错误时,不是立刻重试,而是回退到从 offset 0 开始整文件下载(有些 CDN 对 range 边界敏感)

Windows 下 CreateFile 必须带 FILE_SHARE_READ

即使你只写不读,其他线程或后续校验工具(如 md5sum)可能需要同时读该文件。Windows 默认禁止共享读,会导致 ERROR_SHARING_VIOLATION,而 Linux 的 open 默认允许。

所以 Windows 创建句柄时必须显式声明:

HANDLE h = CreateFileA(path.c_str(), GENERIC_WRITE, FILE_SHARE_READ | FILE_SHARE_WRITE, nullptr, CREATE_ALWAYS, FILE_ATTRIBUTE_NORMAL, nullptr);

漏掉 FILE_SHARE_READ,哪怕所有线程都只写,只要有一个外部进程尝试打开读,就会阻塞或失败——这点容易被忽略,尤其在调试时用资源管理器查看文件就触发了。

跨平台封装时,别迷信 std::ofstream,它在 Windows 下默认不共享,且无法指定底层标志,必须直调系统 API 或用 boost::iostreams 这类可控底座。

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
LibLibAI
LibLibAI Hot

一款AI视频创作工具,主要用于国内领先的AI创意平台,以海量模型、低门槛操作与“创作-分享-商业化”生态,让小白与专业创作者都能高效实现图文乃至视频创意表达,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

相关专题

更多
C++ 智能指针与现代内存管理
C++ 智能指针与现代内存管理

深入讲解 C++ 现代内存管理的核心工具——智能指针,涵盖 unique_ptr 独占所有权语义、shared_ptr 引用计数机制与循环引用问题、weak_ptr 弱引用的应用场景、make_unique/make_shared 工厂函数的性能优势、自定义删除器的编写、RAII 资源管理思想的实践,以及从裸指针迁移到智能指针的重构策略,帮助开发者编写安全无泄漏的现代 C++ 代码。

339

2026.04.23

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

3978

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

1109

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

383

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

539

2026.01.21

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

389

2026.02.06

C++多线程并发控制与线程安全设计实践
C++多线程并发控制与线程安全设计实践

本专题围绕 C++ 在高性能系统开发中的并发控制技术展开,系统讲解多线程编程模型与线程安全设计方法。内容包括互斥锁、读写锁、条件变量、原子操作以及线程池实现机制,同时结合实际案例分析并发竞争、死锁避免与性能优化策略。通过实践讲解,帮助开发者掌握构建稳定高效并发系统的关键技术。

213

2026.03.16

Java 多线程与并发编程实战
Java 多线程与并发编程实战

深入讲解 Java 并发编程体系,涵盖 Thread / Runnable / Callable 线程创建方式、线程生命周期与状态转换、synchronized 同步锁与 Lock/ReentrantLock 显式锁、volatile 可见性保证、ThreadPool 线程池配置与调优(核心参数/拒绝策略)、JUC 并发工具类(CountDownLatch/CyclicBarrier/Semaphore/ConcurrentHashMa

329

2026.04.17

PixTV官网入口地址合集
PixTV官网入口地址合集

本专题汇总了 PixTV AI 一站式视频创作平台的官方入口与使用教程。无需下载软件,浏览器直接访问即可使用。平台将剧本、图像、视频、声音与剪辑整合在“无限画布”中,接入 GPT Image 2.5、Seedance 2.5 等头部模型。本专题整理了从新建画布、角色锚定、分镜拆分到视频生成与导出的完整操作指南,助你快速上手 AI 短剧与漫剧创作。

20

2026.10.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn