讲师中心 微信公众号
AI工具推荐 视频效率加速

c++怎么确保多线程并发写入日志时每一行内容的完整性与读写原子性【避坑】

老丽吖_9388

老丽吖_9388

发布时间:2026-03-26 19:26:01

|

115人浏览过

|

来源于php中文网

原创

std::ofstream 写入日志时一行被撕裂,是因为 std::ofstream::write() 是非原子操作,多线程并发写入且无同步保护时,不同线程的数据可能交错写入同一缓冲区或文件,导致行内容被截断或混杂。

c++怎么确保多线程并发写入日志时每一行内容的完整性与读写原子性【避坑】

std::ofstream 写入日志时为什么一行会被撕裂?

因为 std::ofstream::write() 和 操作符本身不是原子的:即使你只写一整行字符串,底层可能被拆成多次系统调用(比如缓冲区 flush 触发、换行符跨页、线程切换发生在 write 中间),另一线程紧接着写入,就会导致两行内容交错混杂。这不是 C++ 标准库缺陷,而是 I/O 本质——文件描述符共享、内核缓冲区无行级锁。

常见错误现象:"[INFO] user login" + "[ERROR] db timeout" 混成 "[INFO] user login[ERROR] db timeout" 或更糟的乱序断字;用 tail -f 实时看日志时频繁看到半截行。

  • 别依赖 std::ios_base::sync_with_stdio(false) 来“加速”——它反而让 std::cout/std::ofstream 脱离 C stdio 同步机制,加剧竞态
  • 别对同一个 std::ofstream 对象多线程直接调用 write() 或
  • 即使加了 std::mutex 锁整个 write 调用,也必须锁住“格式化 + 写入”全过程,否则 string 构造和 write 分离仍可能被中断

用 std::mutex + 单例 ofstream 实现行级原子写入

核心是把“构造完整日志行 + 一次性落盘”包进一个临界区,且确保 ofstream 处于 unbuffered 或行缓冲模式(避免内部缓存放大问题)。

实操建议:

立即学习“C++免费学习笔记(深入)”;

  • 在日志类单例中持有一个 std::ofstream,构造时用 std::ios::out | std::ios::app,并立即调用 file.rdbuf()->pubsetbuf(nullptr, 0) 关闭流缓冲(强制每次 write 直达内核)
  • 用 std::mutex 保护整个日志函数体,包括 std::ostringstream 格式化、.str() 获取字符串、file 和 <code>file.flush()
  • 不要用 file ——<code>std::endl 会额外 flush,性能差且非必要;显式 flush() 更可控

示例关键片段:

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载
void Logger::log(const char* level, const char* msg) {
    std::lock_guard<std::mutex> lk(mtx_);
    oss_.str(""); oss_.clear();
    oss_ << "[" << level << "] " << msg << '\n';
    file_ << oss_.str();
    file_.flush(); // 确保内核写入完成
}

为什么不用 std::atomic 或 lock-free 队列?

因为 std::atomic 只能操作 POD 类型(如 int、char*),无法原子地写入任意长度字符串到文件;而 lock-free 队列只是把竞争转移到内存队列上,并不解决“最终写入文件时的原子性”问题——你仍然得用互斥锁把一批日志批量刷盘,否则单行还是可能被截断。

更现实的权衡点:

  • 高吞吐场景下,用有界 lock-free 队列(如 moodycamel::ConcurrentQueue)做缓冲,后台单线程消费并批量写入,每批以完整行为单位拼接再 write —— 这样既减小锁粒度,又保行完整
  • 但注意:批量写入时仍需保证每行末尾有 '\n',且不能让两行内容在拼接时丢失换行符,否则 tail 或日志收集器会解析失败
  • 若使用 write(2) 系统调用替代流操作,必须传入含 '\n' 的完整 buffer,并检查返回值是否等于预期长度,否则要重试或报错

Windows 下 FILE* 与 _write 的特殊坑

在 Windows 上,如果用 fopen(..., "a") + fputs(),看似线程安全,实则不然:MSVCRT 的 fopen 默认开启 _IOFBF 全缓冲,且 fputs 不保证原子;更麻烦的是,多个线程对同一文件调用 _write()(低级 I/O)时,Windows 不保证追加写入的原子性,可能覆盖彼此。

必须做的动作:

  • 用 _fsopen(path, "a", _SH_DENYNO) 替代 fopen,明确允许并发访问
  • 每次写入前调用 _lseeki64(fd, 0, SEEK_END) 定位到末尾,再 _write() —— 否则多个线程 _write 可能写到同一偏移
  • 或者干脆放弃 FILE*,改用 CreateFile() + WriteFile(),并设置 FILE_APPEND_DATA 权限,Windows 内核会保证追加写入的原子性(但仅限单次 WriteFile 调用内含完整行)

最易被忽略的一点:日志行完整性不仅取决于写入逻辑,还依赖文件系统语义。ext4/xfs 在 O_APPEND 下保证追加原子性,但 NFS 或某些容器卷(如早期 overlayFS)可能不严格遵循——所以生产环境务必在目标存储上实测并发写入效果,不能只信本地开发机结果。

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

4078

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

1129

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

383

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

559

2026.01.21

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

389

2026.02.06

C++多线程并发控制与线程安全设计实践
C++多线程并发控制与线程安全设计实践

本专题围绕 C++ 在高性能系统开发中的并发控制技术展开,系统讲解多线程编程模型与线程安全设计方法。内容包括互斥锁、读写锁、条件变量、原子操作以及线程池实现机制,同时结合实际案例分析并发竞争、死锁避免与性能优化策略。通过实践讲解,帮助开发者掌握构建稳定高效并发系统的关键技术。

213

2026.03.16

Java 多线程与并发编程实战
Java 多线程与并发编程实战

深入讲解 Java 并发编程体系,涵盖 Thread / Runnable / Callable 线程创建方式、线程生命周期与状态转换、synchronized 同步锁与 Lock/ReentrantLock 显式锁、volatile 可见性保证、ThreadPool 线程池配置与调优(核心参数/拒绝策略)、JUC 并发工具类(CountDownLatch/CyclicBarrier/Semaphore/ConcurrentHashMa

349

2026.04.17

C++ 多线程使用教程大全
C++ 多线程使用教程大全

系统讲解 C++11 及后续标准引入的多线程编程能力,涵盖 std::thread 线程创建与生命周期管理、std::mutex / shared_mutex 互斥锁与读写锁、std::condition_variable 条件变量同步、std::atomic 原子操作与内存序(memory_order)、std::future / promise / async 异步任务、线程池的设计与实现、死锁检测与避免策略,帮助开发者编写正确高效

216

2026.04.28

Linux 新手先学哪些命令
Linux 新手先学哪些命令

Linux新手命令专题汇集终端基础、文件目录操作、文本查看、软件安装和权限管理等入门文章,帮助按实际任务练习常用命令并建立命令行操作习惯。

0

2026.10.15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn