zcube是智谱、驭驯网络与清华大学在网络领域顶会acm sigcomm 2025上联合发布的新型ai集群网络架构。其设计初衷直指当前大模型推理的核心瓶颈：在prefill-decode（pd）分离部署范式下，kv cache跨节点传输呈现高度动态、不对称的流量特征，而传统基于多层交换机堆叠的roft（rail-optimized fat-tree）架构受限于静态拓扑，极易引发局部链路热点与pfc反压，导致“总带宽充裕、局部频繁拥塞”的结构性失衡。
ZCube彻底摒弃了Clos类架构的层次化思路，取消Spine层交换机，构建完全扁平化的两组Leaf交换机之间的二部图全连接拓扑；同时引入双端口网卡的单轨/多轨混合接入机制——即同一张GPU网卡的两个物理端口，分别以确定性方式接入奇数编号与偶数编号的Leaf交换机组。配合基于GPU编号与交换机编号映射关系的确定性最短路径路由算法，ZCube确保任意两张GPU之间仅存在一条、且唯一最优的2跳路径，从物理拓扑层面实现全局流量解耦与天然离散化，从根本上消除拥塞根源。
该架构已在智谱GLM-5.1线上生产推理集群中完成规模化落地验证。实测表明：在GPU型号、服务器硬件、软件栈及业务代码零变更的前提下，ZCube将交换机与光模块采购成本降低33%，GPU平均推理吞吐提升15%以上，TTFT P99尾时延下降40.6%。万卡级集群下，仅网络硬件一项即可节省投资2.1亿至6.4亿元。ACM SIGCOMM 2025会议评价其为“显著改变整个行业对网络的认知方式”，这也是ZCube首次在真实超大规模推理场景中完成端到端生产验证。
将小说章节转换为电影分镜剧本。用户上传txt/md/docx文本，AI分析场景、角色、情绪、镜头语言，输出专业分镜脚本。适用于用户提及“分镜”“storyboard”“小说转分镜”“影视改编”“镜头脚本”或需要将小说改编为分镜的场景。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
ZCube的主要功能
- 无Spine扁平化组网：颠覆传统Fat-Tree层级结构，仅保留Leaf层并划分为两组，组间全互联、组内无连接，网络直径恒为2跳，大幅缩短关键路径延迟。
- 单/多轨混合接入机制：通过数学映射规则，使连续编号GPU在奇数组采用单轨汇聚、在偶数组采用多轨分散，天然适配PD分离带来的源-目非对称流量模式。
- 确定性独径路由：每对GPU间严格对应唯一一条经由两台Leaf交换机的最短路径，规避ECMP等多路径选路引发的哈希震荡与微突发冲突，训练与推理均实现理想负载均衡。
- 结构性拥塞根治：不依赖拥塞控制协议或动态调优，而是通过拓扑本身完成流量的空间离散与时间解耦，彻底规避局部热点与PFC反压链式反应。
ZCube的技术原理
- 二部图拓扑建模：将Leaf交换机按序号奇偶严格二分，形成两个独立集合；集合间两两全连接，构成标准二部图（Bipartite Graph），具备强连通性与低直径特性。
- 双端口差异化映射：每张GPU网卡的Port0与Port1分别绑定不同轨制策略——如Port0→单轨（连接奇数Leaf）、Port1→多轨（连接偶数Leaf），结合向上取整与模运算公式生成可验证的确定性路由表。
- 确定性2跳路径生成：给定源GPU ID与目的GPU ID，系统依据预设映射函数自动计算出唯一中间Leaf节点对（一奇一偶），路径不可绕行、不可分裂，保障端到端行为可预测。
- 流量特征原生适配：无需额外报文标记或传输层干预，KV Cache的bursty、非对称、长周期持续传输特性，在进入网络瞬间即被拓扑结构自然打散，避免集中冲击任意链路。
如何使用ZCube
- 拓扑规划阶段：将Leaf交换机按物理编号划分为奇数组与偶数组，组间部署全量光链路，组内不互联；明确Spine层完全移除。
- 设备接入阶段：为每台服务器配置双端口400G网卡，并依据GPU编号自动执行单轨/多轨接入策略，连接至对应奇偶组Leaf交换机。
- 自动化部署阶段：调用ZCube专用控制器与机房布线校验工具，批量生成交换机配置、验证连线正确性、下发路由表项，支持分钟级规模部署。
- 上线验证阶段：在服务切流前，通过实时监控带宽分布、端口队列深度、PFC pause帧触发频次等指标，确认无结构性拥塞后平稳切换。
ZCube的核心优势
- 硬件成本锐减：相较传统ROFT方案减少约33%交换机数量与配套光模块，万卡集群网络侧CAPEX直接压缩2.1–6.4亿元。
- 推理性能跃升：真实生产环境验证，GPU平均推理吞吐提升≥15%，TTFT P99下降40.6%，用户感知“卡顿感”显著缓解。
- 扩展能力跃阶：单平面基于51.2T交换机即可支撑16384个400G接口；通过多平面横向扩展，可无缝延伸至数万乃至数十万GPU规模。
- 零侵入升级路径：不更换GPU、不重装驱动、不修改一行业务代码，仅重构网络物理连接与交换机配置，存量算力资产即时提效。
ZCube的项目地址
ZCube的同类竞品对比
| 对比维度 | ZCube | ROFT（Rail-Optimized Fat-Tree） |
|---|---|---|
| **网络架构** | 扁平化二部图，取消Spine层 | 两层Fat-Tree，保留Spine层 |
| **网络直径** | 2跳 | 3跳 |
| **负载均衡** | 全局理想均衡，单路径无冲突 | 静态Rail映射，推理场景易失衡 |
| **拥塞控制** | 从架构层消除结构性拥塞 | 易产生局部热点和PFC反压 |
| **硬件成本** | 降低33%交换机和光模块 | 标准Clos成本 |
| **推理吞吐** | 提升15% | 基准 |
| **TTFT P99** | 降低40.6% | 基准 |
| **扩展规模** | 数万至数十万GPU | 受Spine层容量限制 |
ZCube的应用场景
- 超大规模LLM推理集群：专为PD分离部署的千卡至万卡级推理集群设计，高效承载KV Cache高频跨节点同步压力。
- 长上下文推理服务：显著缓解长序列输入下首Token响应延迟与整体吞吐衰减问题，提升高价值场景SLA达标率。
- 高密度智算中心底座：为训推混合负载提供高带宽利用率、低尾时延、强均衡性的统一网络基础设施。
- MaaS云服务平台：增强多租户并发调度稳定性，降低高峰时段排队延迟与P99抖动，提升API平台商业竞争力。
