讲师中心 微信公众号
AI工具推荐 视频效率加速

Python Web如何结合AI_后端调用大模型API并流式返回(Chat)

浅强大大_2086

浅强大大_2086

发布时间:2026-04-27 19:57:59

|

701人浏览过

|

来源于php中文网

原创

根本原因是未关闭响应缓冲或未正确设置stream=True及解码方式;需requests.post(stream=True)、手动解析SSE、设Content-Type为text/event-stream、禁用缓存与代理缓冲,并确保SSE格式合规。

python web如何结合ai_后端调用大模型api并流式返回(chat)

用 requests 流式请求大模型 API 时,为什么前端收不到 chunk?

根本原因是没关响应缓冲,或没设对 stream=True 和解码方式。Python 后端默认把整个响应体攒完才发,而大模型流式输出(如 text/event-stream 或分块 JSON)必须边收边转。

  • 必须显式传 stream=True 给 requests.post(),否则 response.iter_lines() 或 response.iter_content() 直接报错或空返回
  • 大模型 API(如 OpenAI、Ollama、DashScope)多数用 text/event-stream,但 requests 不自动解析 SSE,得手动按 data: 行提取内容
  • 别用 response.json() —— 它会等全部响应结束,彻底破坏流式语义
  • 示例关键片段:
    response = requests.post(url, json=payload, stream=True)
    for line in response.iter_lines():
        if line and line.startswith(b'data:'):
            try:
                chunk = json.loads(line[6:].decode())
                yield f"data: {json.dumps(chunk)}\n\n"
            except json.JSONDecodeError:
                continue

Django/Flask 返回流式响应时,Content-Type 和 headers 怎么设才不被浏览器截断?

浏览器和反向代理(如 Nginx)看到普通 text/html 或缺 Transfer-Encoding: chunked,会缓存整段响应再渲染,导致“卡住”。必须明确告诉客户端:这是流,别等。

  • Flask:用 Response 构造,mimetype="text/event-stream",且加 headers={"Cache-Control": "no-cache", "X-Accel-Buffering": "no"}(后者专治 Nginx 缓冲)
  • Django:返回 StreamingHttpResponse,content_type="text/event-stream",同样加 Cache-Control 和 X-Accel-Buffering
  • 别漏 yield 后的换行 —— SSE 要求每条消息以 \n\n 结尾,少一个就解析失败
  • 本地调试时,用 curl -N http://localhost:8000/chat(-N 关闭 curl 缓冲),比浏览器更准

FastAPI 的 StreamingResponse 为啥有时卡住不吐字?

不是代码写错,是 async/await 混用不当。FastAPI 的 StreamingResponse 期望一个同步可迭代对象或异步生成器,但如果你在 async 函数里 yield 同步数据,或反过来,事件循环就挂起。

python-parallelization
python-parallelization

将顺序 Python 代码转换为并行/并发实现,用于在需要并行化 Python 代码、提升性能时使用。

下载
  • 调用大模型 API 用 httpx.AsyncClient,不是 requests —— 后者会阻塞 event loop
  • 流式返回函数必须是 async def,且 yield 前加 await 等待每个 chunk,例如:
    async def chat_stream():
        async with httpx.AsyncClient() as client:
            async with client.stream("POST", url, json=payload) as r:
                async for line in r.aiter_lines():
                    if line.startswith("data:"):
                        yield line + "\n\n"
  • 别在 StreamingResponse 里混用 time.sleep() 或其他同步阻塞操作
  • Uvicorn 启动时加 --timeout-keep-alive 5,避免长连接被过早断开

前端收到 event-stream 后,为什么只触发一次 onmessage?

后端发的每条消息格式不对,或者前端没重连。SSE 协议很脆弱,错一个字符就中断连接。

立即学习“Python免费学习笔记(深入)”;

  • 确保后端每条 yield 都是完整的一组:data: {...}\n\n,不能有空格、多出的逗号、未转义引号
  • 前端 EventSource 默认 3s 断线重连,但大模型首 token 延迟常超这个值,加 retry: 10000(毫秒)更稳:
    const es = new EventSource("/chat", { withCredentials: true });
    es.addEventListener("message", e => console.log(e.data));
  • 如果用 fetch + ReadableStream,注意 response.body.getReader() 必须在 while 循环里反复 read(),不能只读一次
  • Chrome 开发者工具 Network → Response Headers 里确认有 Content-Type: text/event-stream,没有就说明后端 header 没生效
流式返回最麻烦的从来不是调 API,而是中间任意一环——反向代理、WSGI/ASGI 服务器、浏览器解析逻辑——悄悄吃掉 chunk 或强行缓冲。调通之后,务必用 curl -N 和 Chrome Network 面板逐层看原始字节流。

热门AI工具

更多
Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

相关专题

更多
python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2563

2023.08.11

前端和后端的区别
前端和后端的区别

前端关注的是用户界面的设计和交互,而后端则注重数据处理和逻辑控制。想了解更多前端后端的相关内容,可以阅读本专题下面的文章。

6570

2024.03.19

后端的主要工作内容介绍
后端的主要工作内容介绍

后端是应用程序的服务端部分,负责核心任务,如数据库交互、业务逻辑处理和响应客户端请求。想了解更多后端的相关内容,可以阅读本专题下面的文章。

5986

2024.03.19

python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1771

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

4624

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1749

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

27317

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3307

2023.08.04

Playwright 测试失败怎么办
Playwright 测试失败怎么办

Playwright测试失败专题汇集超时、定位器匹配、浏览器提前关闭、依赖与插件配置、文件上传、SSL及Docker启动等故障文章,并介绍通过截图、报告和Trace定位错误。

0

2026.10.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn