讲师中心 微信公众号

工具推荐

视频效率加速
AniShort
AniShort

AI短剧协同制作平台

立刻MV
立刻MV

低成本歌曲 MV、视频生成

Seko
Seko

AI短剧一键生成成片

剧云
剧云

中文短剧剧本制作平台

C++如何实现带背压的异步TCP服务器?(连接数与吞吐平衡)

夏杰姑娘_9078

夏杰姑娘_9078

发布时间:2026-02-26 16:04:03

|

390人浏览过

|

来源于php中文网

原创

epoll+ET是高性能网络编程基础,但需配合非阻塞socket、低水位调优、用户态缓冲区管理、内存池及连接级背压控制,否则无法应对慢客户端导致的内存耗尽与事件循环阻塞。

c++如何实现带背压的异步tcp服务器?(连接数与吞吐平衡)

为什么 epoll + ET 模式是基础,但光用它不够

单纯靠 epoll 边缘触发(EPOLLET)能提升单连接吞吐,但无法解决背压——当客户端消费慢、接收缓冲区积压时,服务器仍会持续读、持续发,最终耗尽内存或触发 send() 阻塞/失败。关键不是“能不能收发”,而是“要不要现在收发”。

  • 必须配合 socket 的 SOCK_NONBLOCK 和 SO_SNDLOWAT/SO_RCVLOWAT 调优,否则低水位默认值(通常 1 字节)会让 epoll 过早就绪
  • EPOLLET 下,一次 read() 必须循环到 EAGAIN,否则漏数据;一次 write() 若返回 EAGAIN,得立刻停发、注册 EPOLLOUT,等可写再续
  • 别在 epoll_wait() 外部做任何阻塞操作(比如同步日志、磁盘 IO),否则整个事件循环卡住

write() 返回 EAGAIN 后怎么安全挂起连接

这不是简单把连接扔进等待队列就行。核心是:挂起时必须确保已写数据全部进入内核发送缓冲区,且下次可写事件到来前,不能重复注册 EPOLLOUT,也不能遗漏重试逻辑。

  • 每次 write() 前检查连接的输出缓冲区(用户态 buffer)是否为空;非空则说明上次没发完,直接跳过本次 write 尝试
  • 收到 EAGAIN 后,把待发数据追加进该连接的 output_buffer(需自己维护,不能依赖 TCP 缓冲区),然后调用 epoll_ctl(epfd, EPOLL_CTL_MOD, fd, &ev),其中 ev.events = EPOLLIN | EPOLLOUT | EPOLLET
  • 务必在 EPOLLOUT 就绪回调里清空 output_buffer 并尝试重发;发完后要主动移除 EPOLLOUT(用 EPOLL_CTL_MOD 改回 EPOLLIN | EPOLLET),否则会持续触发空就绪

连接数暴涨时,内存分配和连接管理怎么不拖垮吞吐

每连接一个 input_buffer + output_buffer,若用 std::vector 或 new 动态分配,百万连接下 malloc 频次和碎片会吃掉大量 CPU。背压机制本身也依赖快速判断“谁堵了”,不能遍历所有连接。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载
  • 用内存池预分配固定大小的 buffer(如 4KB/8KB),按需切片,避免每次 new/delete;释放时不归还系统,只放回池中
  • 连接对象(struct Connection)建议用 std::vector 或 boost::container::static_vector 存储,避免指针跳转;成员变量排布按访问频次从高到低(如 fd、state、input_size 放前面)
  • 不要为每个连接单独开线程或协程;用单线程 event loop + epoll 是底线;若真需要多核,用进程间负载分片(如 SO_REUSEPORT),而非线程间共享连接状态

背压信号怎么传给业务逻辑层

业务代码(比如协议解析、DB 查询回调)如果不知道当前连接已拥塞,可能继续往 output_buffer 塞数据,导致缓冲区无限膨胀。不能靠全局开关,得让每个连接自己说话。

立即学习“C++免费学习笔记(深入)”;

  • 在连接结构体里加 bool write_blocked{false},每次 write() 返回 EAGAIN 时置 true,发完清空 buffer 后置 false
  • 对外暴露 can_write(Connection* conn) 接口,业务层调用前先查这个 flag;或者更彻底:只提供 try_write(conn, data),内部自动判断并缓存
  • 警惕“假成功”:即使 write() 返回 >0,也不代表全发出去了——TCP 只保证进了内核缓冲区,不代表对方收到了。真正的背压终点是对方 ACK 滞后,但这层一般不感知,所以重点守住本机发送缓冲区水位

真正难的不是实现某个函数,而是所有连接共用一套事件循环时,任意一个慢连接的 output_buffer 膨胀,都会悄悄吃掉其他连接的内存配额。buffer 大小、回收时机、event loop 响应延迟,三者得一起调。

热门AI工具

更多
Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

超级麦吉

一款通过数字员工协作完成调研、数据分析与文档制作的AI办公平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

花生AI
花生AI Hot

一款AI视频创作工具,主要用于B站推出的AI视频创作工具,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

相关专题

更多
golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

5434

2025.06.09

golang结构体方法
golang结构体方法

本专题整合了golang结构体相关内容,请阅读专题下面的文章了解更多。

5611

2025.07.04

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

5434

2025.06.09

golang结构体方法
golang结构体方法

本专题整合了golang结构体相关内容,请阅读专题下面的文章了解更多。

5611

2025.07.04

C++ 智能指针与现代内存管理
C++ 智能指针与现代内存管理

深入讲解 C++ 现代内存管理的核心工具——智能指针,涵盖 unique_ptr 独占所有权语义、shared_ptr 引用计数机制与循环引用问题、weak_ptr 弱引用的应用场景、make_unique/make_shared 工厂函数的性能优势、自定义删除器的编写、RAII 资源管理思想的实践,以及从裸指针迁移到智能指针的重构策略,帮助开发者编写安全无泄漏的现代 C++ 代码。

399

2026.04.23

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

3248

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

5469

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

3909

2025.12.29

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

20

2026.11.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn