讲师中心 微信公众号
AI工具推荐 视频效率加速

AutoGen 流式输出(Streaming)功能的实现与自定义解决方案

陌雪姑娘_1605

陌雪姑娘_1605

发布时间:2026-01-18 13:46:02

|

612人浏览过

|

来源于php中文网

原创

AutoGen 流式输出(Streaming)功能的实现与自定义解决方案

autogen 默认不支持真正的逐字流式输出,`stream=true` 仅影响底层 llm 调用的流式响应接收,但消息打印仍为整块渲染;需通过 monkey patching 重写 `_print_received_message` 方法,才能实现终端实时逐字符/逐词流式显示。

在 AutoGen 中启用 stream=True(如 llm_config = {"stream": True, ...})确实会触发底层大模型客户端(如 OpenAI SDK)以流式方式接收 token,但这仅限于内部数据流处理——AutoGen 的默认消息展示逻辑仍会等待整个响应完成后再一次性调用 print() 输出完整回复。因此,即使启用了流式请求,终端依然表现为“整句闪现”,而非预期的“打字机式”实时流式效果。

要实现真正可见的流式输出,关键在于拦截并重写 AutoGen 消息渲染行为。目前官方尚未提供开箱即用的流式打印接口,GitHub Issues 中也暂无原生支持计划(open streaming issues)。可行方案是采用 monkey patching,动态替换 ConversableAgent._print_received_message 方法:

import sys
import time
from typing import Optional
from autogen import ConversableAgent

# 自定义流式打印函数:逐字符输出,模拟打字效果
def _stream_print_received_message(
    self,
    message: dict,
    sender: Optional[ConversableAgent] = None,
    reviewer: Optional[ConversableAgent] = None,
):
    content = message.get("content", "")
    if not isinstance(content, str):
        return

    # 清除前导/尾随空白,避免空行干扰
    content = content.strip()
    if not content:
        return

    # 逐字符输出,可按需调整延迟(单位:秒)
    for i, char in enumerate(content):
        sys.stdout.write(char)
        sys.stdout.flush()  # 强制刷新缓冲区
        time.sleep(0.02)  # 可选:控制输出节奏(如需更快速度可设为 0.005)
    print()  # 换行

# 应用 monkey patch(需在 agent 初始化前执行)
ConversableAgent._print_received_message = _stream_print_received_message

⚠️ 注意事项:

Git Workflows Advanced
Git Workflows Advanced

高级Git操作工具:交互式变基(带自动合并)、工作树管理、reflog恢复、子树/子模块处理、跨fork的cherry-pick

下载
  • 此 patch 需在创建任何 ConversableAgent 实例(包括 UserProxyAgent、AssistantAgent 等)之前执行,否则不会生效;
  • 若使用 GroupChatManager 或多代理协作场景,确保所有参与 agent 均继承该 patched 方法(因 GroupChatManager 本身也继承 ConversableAgent);
  • time.sleep() 延迟值可根据实际需求调整:设为 0 可实现极速流式(依赖终端刷新能力),但可能丢失“视觉流式感”;建议 0.01–0.03 秒间微调;
  • 该方法不改变消息内容或历史记录逻辑,仅影响控制台显示行为,所有 chat_history 和 last_message() 等 API 行为保持不变。

✅ 验证方式:运行你的原始代码(含 "stream": True)后,观察终端是否出现逐字符显现效果。若仍为整块输出,请检查 patch 是否在 agent 初始化前执行,或确认未被其他模块覆盖。

总之,AutoGen 的流式能力当前聚焦于 API 层响应流,可视化流式需开发者主动介入渲染层。这一 monkey patch 方案轻量、兼容性强,是现阶段最实用的工程化解法。未来若官方提供 on_token_callback 或 stream_display=True 等原生支持,可平滑迁移。

热门AI工具

更多
SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

相关专题

更多
python中print函数的用法
python中print函数的用法

python中print函数的语法是“print(value1, value2, ..., sep=' ', end=' ', file=sys.stdout, flush=False)”。本专题为大家提供print相关的文章、下载、课程内容,供大家免费下载体验。

2840

2023.09.27

python print用法与作用
python print用法与作用

本专题整合了python print的用法、作用、函数功能相关内容,阅读专题下面的文章了解更多详细教程。

249

2026.02.03

登录token无效
登录token无效

登录token无效解决方法:1、检查token的有效期限,如果token已经过期,需要重新获取一个新的token;2、检查token的签名,如果签名不正确,需要重新获取一个新的token;3、检查密钥的正确性,如果密钥不正确,需要重新获取一个新的token;4、使用HTTPS协议传输token,建议使用HTTPS协议进行传输 ;5、使用双因素认证,双因素认证可以提高账户的安全性。

13626

2023.09.14

登录token无效怎么办
登录token无效怎么办

登录token无效的解决办法有检查Token是否过期、检查Token是否正确、检查Token是否被篡改、检查Token是否与用户匹配、清除缓存或Cookie、检查网络连接和服务器状态、重新登录或请求新的Token、联系技术支持或开发人员等。本专题为大家提供token相关的文章、下载、课程内容,供大家免费下载体验。

1625

2023.09.14

token怎么获取
token怎么获取

获取token值的方法:1、小程序调用“wx.login()”获取 临时登录凭证code,并回传到开发者服务器;2、开发者服务器以code换取,用户唯一标识openid和会话密钥“session_key”。想了解更详细的内容,可以阅读本专题下面的文章。

3717

2023.12.21

token什么意思
token什么意思

token是一种用于表示用户权限、记录交易信息、支付虚拟货币的数字货币。可以用来在特定的网络上进行交易,用来购买或出售特定的虚拟货币,也可以用来支付特定的服务费用。想了解更多token什么意思的相关内容可以访问本专题下面的文章。

5881

2024.03.01

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

3148

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

4849

2025.10.17

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

20

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
vscode手册
vscode手册

共0课时 | 0人学习

Git 教程
Git 教程

共21课时 | 8万人学习

Git版本控制工具
Git版本控制工具

共8课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn