LongCat AI通过“结构化记忆+动态注意力”解决长文档上下文遗忘问题:采用LoZA稀疏注意力机制提升效率与精度,执行DeepResearch分阶段压缩重构流程,并依托VitaBench 2.0实现动态用户建模。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

LongCat AI 解决长文档处理中的上下文遗忘难题,核心不靠堆token,而是用“结构化记忆+动态注意力”双轨策略。它把长文档当一个需要持续理解的活体系统,而非一次性喂给模型的静态文本。
LoZA稀疏注意力机制:只聚焦关键片段
传统模型处理长文本时,每个词都要和所有其他词计算关联,计算量爆炸式增长,导致中间信息被稀释或丢弃。LongCat 的 LoZA(ZigZag Attention)通过可学习权重自动识别哪些注意力模块真正重要,将一半模块替换为线性复杂度的流式稀疏注意力(SSA),在 1024-token 窗口内保留1个全局块+7个局部块——既抓住文档整体逻辑脉络,又盯住关键句段细节。实测处理 128K 上下文时,解码速度提升10倍,且不牺牲中段信息召回率。
DeepResearch 工作流:分阶段压缩与重构
面对万字级文档,LongCat 不直接塞全文,而是启动「深度研究」流程:
- 先做粗粒度定位:快速扫描标题、小节、列表、时间戳等结构信号,提取文档骨架
- 再执行细粒度锚定:对用户问题相关段落做语义增强检索,比如问“合同违约金条款”,它会联动匹配“第X条”“乙方责任”“金额计算方式”等多处分散表述
- 最后生成动态摘要:不是简单截取原文,而是用 CoT 指导过滤器剔除冗余描述,将分散信息拼接成带逻辑链的精简上下文,送入模型生成答案
VitaBench 2.0 驱动的记忆建模:让AI记住“谁在读什么”
LongCat 的长期记忆能力来自对用户行为轨迹的真实模拟。VitaBench 2.0 基准要求模型在长达1580天、平均2093次交互的用户生命周期中,持续识别偏好漂移——比如某用户从“关注价格”转向“重视配送时效”,系统会自动加权更新其文档阅读习惯标签。这种动态用户建模,使 LongCat 在处理同一份长合同的不同版本时,能结合该用户过往审批倾向,优先突出其曾多次质疑过的条款位置,而非机械复述全文。
本质上,LongCat 把上下文遗忘问题从“模型记不住”转化为“我们没给它该记的东西”。它不依赖无限拉长窗口,而是用更聪明的信息筛选、更精准的注意力分配、更真实的用户映射,让长文档始终有焦点、有脉络、有人味。















