讲师中心 微信公众号
AI工具推荐 视频效率加速

C#无锁文件队列 C#如何实现一个多线程安全的无锁文件日志记录器

秋静姑娘_5462

秋静姑娘_5462

发布时间:2026-03-07 08:59:34

|

687人浏览过

|

来源于php中文网

原创

FileStream并发写会丢日志,因底层文件句柄不保证原子写入,多线程Write易致缓冲区错位、覆盖或截断;加lock有性能瓶颈且崩溃后数据可能未刷盘;MemoryMappedFile+Interlocked虽可行但跨平台兼容差、管理复杂;更务实方案是单生产者+无锁环形缓冲区+后台I/O线程刷盘,配合磁盘空间监控与错误降级机制。

c#无锁文件队列 c#如何实现一个多线程安全的无锁文件日志记录器

为什么 FileStream 直接并发写会丢日志

因为底层文件句柄不保证原子写入,多个线程同时调用 Write 或 WriteAsync 会导致缓冲区错位、覆盖或截断。哪怕加了 lock,在高并发下也会成为性能瓶颈,且一旦异常中断(如进程崩溃),FileStream 可能残留未刷盘数据。

MemoryMappedFile + Interlocked 是可行路径,但别直接上

它能绕过内核锁,但实际落地很重:需手动管理偏移、边界、页对齐、序列化结构体,还要处理映射视图生命周期和跨进程同步。Windows 上表现尚可,Linux/macOS 兼容性差,.NET 6+ 虽支持跨平台映射,但 MemoryMappedFile.CreateFromFile 对追加写不友好,容易踩到“只读映射”或“长度固定”的坑。

  • 日志条目必须定长,否则 Interlocked.Add 算偏移会错乱
  • 每次写前要检查剩余空间,满时需重建映射 —— 这本身就要加锁
  • 崩溃后无法自动恢复写位置,得靠额外元数据文件或 checksum 校验

更务实的做法:单生产者 + 无锁环形缓冲区 + 后台线程刷盘

不是所有“无锁”都得靠 CAS 指令;用线程分工规避竞争,比硬刚原子操作更稳。核心是让业务线程只往内存队列投递,由专属 I/O 线程串行落盘。

C#
C#

"避开 C# 常见错误——空陷阱、异步陷阱、LINQ 陷阱及资源泄漏。"

下载
  • 用 System.Collections.Concurrent.ConcurrentQueue<t></t> 存日志对象(轻量,无锁实现)
  • 避免直接存 string,改用 ReadOnlyMemory<byte></byte> 减少编码分配
  • I/O 线程用 FileStream.WriteAsync + FileOptions.WriteThrough 绕过系统缓存(注意:会降速,但保命)
  • 加 try/catch 捕获 IOException,失败时记录错误并跳过该条,别让单条坏日志卡死整个管道

示例关键片段:

var queue = new ConcurrentQueue<ReadOnlyMemory<byte>>();
// 生产者线程
queue.Enqueue(Encoding.UTF8.GetBytes($"[{DateTime.Now:O}] INFO: hello\n"));

// 消费者线程(单独 Task.Run)
while (!ct.IsCancellationRequested)
{
    if (queue.TryDequeue(out var data))
    {
        await fileStream.WriteAsync(data, ct).ConfigureAwait(false);
        await fileStream.FlushAsync(ct).ConfigureAwait(false);
    }
    else
    {
        await Task.Delay(1, ct).ConfigureAwait(false);
    }
}

真正容易被忽略的点:文件滚动和磁盘满处理

无锁只解决并发写冲突,不解决磁盘爆满、权限丢失、路径不存在这些现实问题。一旦 WriteAsync 报 IOException,后续所有日志都会堆积在内存队列里,最终 OOM。

  • 定期检查磁盘剩余空间(比如每 5 秒调用 DriveInfo.AvailableFreeSpace)
  • 滚动策略别依赖文件大小(Length 属性可能不准),改用写入字节数计数器 + 原子更新
  • 当检测到写失败且重试 3 次仍无效,把剩余队列 dump 到临时内存流,再尝试写入备用路径(如 %TEMP%)

没做这些,所谓“无锁”只是把崩溃时机从秒级延迟到了小时级。

热门AI工具

更多
咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

花生AI
花生AI Hot

一款AI视频创作工具,主要用于B站推出的AI视频创作工具,适合需要提升相关任务效率的用户。

相关专题

更多
c#是什么意思
c#是什么意思

C#是一种通用的面向对象编程语言,它在.NET框架上运行,可用于开发各种类型的应用程序。本专题为大家提供c#相关的各种文章、以及下载和课程。

1132

2023.08.08

什么是c#
什么是c#

C#(读作C Sharp)是一种现代的、通用的、面向对象的编程语言。它由微软公司开发,于2000年首次发布,主要用于开发Windows桌面应用程序、Web应用程序、移动应用程序以及游戏开发等领域。C#是一种类型安全和托管的编程语言,它结合了C++的强大性能和C语言的简单易学特点,并引入了许多新的特性和概念,如委托、属性、泛型和异步编程等,以提高开发效率和代码可维护性。

3371

2023.08.31

C#中base关键字的用法
C#中base关键字的用法

在C#中,base关键字用于访问当前类的基类成员,这包括基类的字段、属性、方法、构造函数、索引器以及事件。想了解更多C#的相关内容,可以阅读本专题下面的文章。

945

2024.03.13

C#Task用法
C#Task用法

Task在C#中是用于表示异步操作的对象,它位于System.Threading.Tasks命名空间中。想了解更多C#中各种用法的相关内容,可以阅读本专题下面的文章。

2655

2024.03.14

C# 并发与异步编程
C# 并发与异步编程

本专题系统讲解 C# 异步编程与并发控制,重点介绍 async 和 await 关键字、Task 类、线程池管理、并发数据结构、死锁与线程安全问题。通过多个实战项目,帮助学习者掌握 如何在 C# 中编写高效的异步代码,提升应用的并发性能与响应速度。

352

2026.02.03

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

429

2026.02.06

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

631

2026.03.11

C# Unity游戏开发与ECS架构实践
C# Unity游戏开发与ECS架构实践

本专题聚焦 C# 在 Unity 游戏开发中的应用,系统讲解 ECS(Entity-Component-System)架构设计、游戏对象管理、性能优化与内存控制策略。通过实际游戏案例,帮助开发者构建高性能、结构清晰的游戏系统,提高游戏开发效率与运行性能。

329

2026.04.13

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

0

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn