讲师中心 微信公众号

工具推荐

视频效率加速
剧云
剧云

中文短剧剧本制作平台

Seko
Seko

AI短剧一键生成成片

Laper
Laper

剧本策划到成片协作

updream

一键生成高质量推广成片

Python异步编程中如何实现高效TCP粘包拆包处理【技巧】

千静吖_5638

千静吖_5638

发布时间:2025-12-14 22:21:07

|

1082人浏览过

|

来源于php中文网

原创

TCP粘包需通过协议约定、缓冲累积与规则切分解决;推荐定长头+变长体或分隔符方案;用StreamReader手动管理缓冲区逐条解析,避免readuntil的不可控性。

python异步编程中如何实现高效tcp粘包拆包处理【技巧】

在Python异步编程(如使用 asyncio)中处理TCP粘包,核心不是“避免”粘包——因为TCP本身无消息边界——而是**主动约定协议、缓冲数据、按规则切分**。关键在于:不依赖单次 read() 返回完整业务消息,而是累积+解析+消费。

定义清晰的消息格式(协议先行)

粘包问题的根源是缺乏分界标识。必须提前约定一种可解析的封帧方式,常见且推荐以下两种:

  • 定长头 + 变长体:前4字节存body长度(struct.pack('!I', len(body))),后续读取对应字节数。适合消息大小可控场景,解析确定、无歧义。
  • 分隔符结尾:如用 \n 或 \r\n 标记消息结束。需注意业务数据本身不能含该分隔符,否则需转义或换协议;适合日志、文本类简单协议。

用 StreamReader 缓冲并按协议提取完整消息

asyncio.StreamReader 自带缓冲区,但默认不帮你拆包。你需要封装一个协程,持续读取、拼接、匹配、切分:

  • 维护一个 bytearray 缓冲区(比 bytes 拼接更高效);
  • 循环调用 reader.read(n) 或 reader.read(4096) 填充缓冲区;
  • 每次填充后,用协议规则扫描缓冲区:比如找 \n,或检查前4字节是否足够、再读取指定长度;
  • 一旦提取出一条完整消息,就从缓冲区头部切掉它,继续处理剩余数据(避免丢弃或重复解析)。

避免常见陷阱:不要用 readuntil() 直接处理复杂协议

readuntil(separator) 看似方便,但它会在找不到分隔符时一直阻塞(或超时),且不支持带长度头的协议。更严重的是:它内部会把已读但未匹配的部分留在缓冲区,但你无法直接访问或控制这个缓冲逻辑。一旦协议稍复杂(比如分隔符可出现在消息体中),就容易出错。建议手动管理缓冲区,逻辑透明、可控性强。

Biopython
Biopython

全面的分子生物学工具集。适用于序列操作、文件解析(FASTA/GenBank/PDB)、系统发育分析,以及通过 Bio.Entrez 以编程方式访问 NCBI/

下载

立即学习“Python免费学习笔记(深入)”;

示例片段(定长头协议)

以下是一个轻量实用的协程,用于从 StreamReader 中逐条读取带4字节长度头的消息:

async def read_message(reader):
    buf = bytearray()
    while True:
        # 先确保至少有4字节(长度头)
        while len(buf) < 4:
            chunk = await reader.read(4 - len(buf))
            if not chunk:
                raise ConnectionError("Connection closed")
            buf.extend(chunk)
        # 解析长度
        msg_len = int.from_bytes(buf[:4], 'big')
        # 再确保有完整消息体
        while len(buf) < 4 + msg_len:
            chunk = await reader.read(4 + msg_len - len(buf))
            if not chunk:
                raise ConnectionError("Incomplete message")
            buf.extend(chunk)
        # 提取消息,更新缓冲区
        msg = bytes(buf[4:4+msg_len])
        del buf[:4+msg_len]
        yield msg

调用时:async for msg in read_message(reader): process(msg) —— 简洁、流式、无粘包干扰。

基本上就这些。协议明确 + 缓冲可控 + 切分及时 = 异步TCP粘包处理稳了。

相关文章

编程速学教程(入门课程)
编程速学教程(入门课程)

编程怎么学习?编程怎么入门?编程在哪学?编程怎么学才快?不用担心,这里为大家提供了编程速学教程(入门课程),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

0

2026.11.17

GoFrame框架安装与gf命令行工具
GoFrame框架安装与gf命令行工具

本专题围绕GoFrame框架的安装与工具链配置展开,讲清Go版本要求、gf命令行的安装方式、代理镜像与依赖准备,说明项目初始化、热编译、交叉编译打包的做法,并整理安装阶段的常见报错与验证步骤。

20

2026.11.17

GoFrame框架零基础入门
GoFrame框架零基础入门

本专题整理GoFrame框架的入门知识,从模块化设计理念、环境准备到跑通第一个Web服务,讲清目录分层、配置加载、日志与中间件的用法,并对比Gin、Go-Zero的差异,帮助Go开发者建立整体认知。

0

2026.11.17

SQLAlchemy 一对多关系怎么建立
SQLAlchemy 一对多关系怎么建立

SQLAlchemy 一对多关系怎么建立?本专题整理父子表外键、relationship 双向映射、关联查询、级联删除和加载优化等相关文章,帮助你理解并实现常见的 ORM 关系建模。

0

2026.11.17

SQLAlchemy 如何增删改查
SQLAlchemy 如何增删改查

SQLAlchemy 如何增删改查?本专题整理 ORM 新增记录、条件查询、更新和删除、Session 事务提交与批量处理等实用文章,帮助你掌握 Python 数据库操作流程。

0

2026.11.17

SQLAlchemy ORM 模型怎么写
SQLAlchemy ORM 模型怎么写

SQLAlchemy ORM 模型怎么写?本专题整理模型类定义、Mapped 字段映射、主键与约束、表结构创建和常见报错的相关文章,帮助你从基础配置到实际建模逐步掌握 SQLAlchemy。

0

2026.11.17

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

180

2026.11.12

Go-Zero安装与goctl环境配置教程
Go-Zero安装与goctl环境配置教程

本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。

120

2026.11.12

Go-Zero零基础入门教程
Go-Zero零基础入门教程

本专题整理Go-Zero的入门知识,从框架定位、环境准备到跑通第一个API服务,讲清目录分层、配置加载、日志与中间件的基本用法,并对比Gin、Kratos的差异,帮助Go开发者建立整体认知,判断它是否适合当前项目。

100

2026.11.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn