根本原因是model.generate()调用本身无状态，只处理当次传入的messages列表；丢上下文源于前端未正确拼接历史，如漏传history、未启用enable_history、流式响应时未同步更新本地数组、Redis存储无版本标记或过期策略不当、截断策略忽略语义权重、system消息重复注入、格式错误导致解析失败，以及未将关键信息与滚动历史分离管理。
根本原因只有一个：model.generate() 这个调用本身不保存、不感知、不延续任何历史——它只认你这次传进去的 messages 列表。丢上下文不是模型“忘了”，是你每次都没把该带的上下文带过去。
为什么前端传参时总漏掉 history？
常见错误是把多轮对话当成单次问答来处理：用户发一句，你只拼一个 {"role": "user", "content": "..."} 就扔给模型。结果模型看到的永远是孤立句子，自然无法理解“它”指什么、“刚才说的方案”在哪。
- 检查你实际发给 LLM 的
messages参数——是不是每次都是新构造、没追加前序内容？ - Dify / LobeChat 等低代码平台里，容易忽略「History Input」节点是否连通，或配置项里
enable_history是否设为True - 流式响应（
stream=True）时，前端若没同步更新本地messages数组，下一轮请求就只剩空壳
为什么 Redis 存了还是丢？
存了不等于能用。Redis 里 key 是 "session:abc123"，但 value 如果只是原始字符串拼接，或没做版本标记，就等于把对话存在一张没编号的白纸上——你不知道哪段属于哪次有效交互。
-
EXPIRE时间写死 30 分钟，用户中途暂停 35 分钟再聊，第一轮地域信息直接蒸发 - 并发写入时多个请求同时
GET + APPEND + SET，中间没加WATCH或事务，导致后写入覆盖前写入 - 缓存里存的是明文
content，含身份证号，合规审计一查就 fail，被迫清库，历史全丢
为什么截断策略会让关键信息消失？
固定保留最近 5 轮，看似合理，但“我是 VIP 客户”这种声明句如果出现在第 1 轮，第 6 轮就会被 deque(maxlen=5) 直接踢出——模型再也看不到这个身份锚点。
python-script-generator
下载
快速生成专业的 Python 脚本和应用代码。一键创建完整项目结构，支持CLI、API、爬虫、Bot、Django等多种项目类型，包含完整的项目结构、配置文件、依赖管理、测试、README和文档。
立即学习“Python免费学习笔记（深入）”；
- 纯按轮数截断，不区分语义权重：一句“截止日期是 7 月 10 日”和一句“今天天气不错”被同等对待
- 没做指代消解：用户说“按上面的格式改”，你没把“上面的格式”对应到具体 message.id，只靠位置索引，滚动加载时位置偏移就失效
- Qwen 支持 32K token，但 tokenizer 对中文分词后实际占用远超预期，表面看没超限，实则已触发模型内部滑动窗口裁剪
为什么 system 消息反复注入反而有害？
每次请求都塞一条新的 {"role": "system", "content": "你是客服助手..."}，相当于让模型每轮都重新“上岗”，角色稳定性被稀释，且浪费大量 token。
- system 消息应在会话初始化时写一次，后续只追加 user/assistant 交替记录
- 真正要强化的记忆（如用户姓名、技术栈）应提取后存入独立变量，每次请求前动态注入开头，而非混在历史消息流里
- DeepSeek V4 对 ChatML 格式敏感，
[INST]和[/INST]缺一不可，错位会导致 role 解析失败，整条 history 被忽略
最常被跳过的环节，是把“用户说了什么”和“哪些信息必须钉住”分开管理——前者走滚动 history，后者走独立 persistent_memory 字段。不拆开，就永远在丢与不丢之间摇摆。
