用户点击“停止”按钮后，前端调用 AbortController.abort() 中断 fetch 请求，后端通过请求 ID 轮询或 HTTP/2 流重置检测取消信号，在生成循环中实时检查并终止推理、清理资源，返回取消状态。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
用户在火山引擎的模型服务界面点击“停止”按钮后，需立即中止正在执行的模型推理请求，避免资源浪费和响应延迟。这要求前端触发取消信号，后端服务能识别并终止对应请求的执行流程，且不返回残留结果。
前端发起取消请求
在用户点击“停止”按钮时，前端 JavaScript 检查当前是否存在活跃的 fetch 请求实例，若存在则调用其 AbortController 的 abort() 方法。
创建 AbortController 实例并传入 fetch 的 signal 选项：const controller = new AbortController(); fetch(url, { method: 'POST', body: JSON.stringify(data), signal: controller.signal });
点击停止按钮时执行 controller.abort()；这会立刻中断 fetch 连接，浏览器不再等待响应，也不会触发 then 或 catch 中的后续逻辑。
【必须在发起请求前创建 controller，不能在点击停止时才 new AbortController()】
后端识别并终止推理任务
方法一：基于请求 ID 的主动轮询终止
前端发起请求时携带唯一 request_id（如 UUID），后端将该 ID 写入 Redis 并设置过期时间；当收到 /cancel/{request_id} 请求时，将对应 key 的 value 设为 "canceled"。
模型推理主逻辑在每轮计算间隙（例如每次 token 生成后）检查 Redis 中该 request_id 的状态，若值为 "canceled"，则抛出 CancelledError 并退出生成循环。
方法二：利用 HTTP/2 流重置信号
火山引擎 API 网关若启用 HTTP/2，服务端可通过 stream.reset() 捕获客户端连接关闭事件；此时直接中断 tokengenerator.next() 调用链，避免继续 yield 新 token。
注意：该方式依赖网关透传 RST_STREAM 帧，需确认火山引擎 API 网关配置中未缓冲或重试中断连接。
服务端模型生成逻辑改造
第一步：在生成函数入口处注入 cancellation check 工具函数
第二步：将原 for 循环生成逻辑改为 while 循环，并在每次迭代开头调用 if (isCancelled(requestId)) throw new TaskCancelled();
第三步：捕获 TaskCancelled 异常，清理 GPU 显存缓存（如 torch.cuda.empty_cache()），关闭 KV Cache 缓冲区，释放本次请求占用的 context slot。
第四步：返回 HTTP 200 响应体 { "status": "cancelled", "request_id": "xxx" }，不返回 partial content。
