☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
阿里巴巴正式开源超大规模MoE模型Qwen3.8-2.4T-A95B，与此同时，智源FlagOS社区迅速完成该模型在九类主流AI芯片上的Day0适配。目前，Qwen3.8-2.4T-A95B已在平头哥、英伟达、摩尔线程、华为昇腾、沐曦、昆仑芯、海光、清微智能、燧原等9家厂商的AI芯片上，基于FlagOS统一开源技术栈实现多芯兼容、精度对齐与部署验证。针对各芯片平台特性，提供BF16、FP8、INT8等多种精度版本，开发者可一键获取对应硬件的即插即用推理方案。
自今年2月首次启动MiniCPM4.5-o模型的多芯片Day0适配以来，FlagOS已累计完成来自7个头部模型团队、共计12款主流开源大模型、覆盖10款不同架构AI芯片的跨平台Day0适配实践。这一系列成果有力印证：依托统一、开放的系统级软件栈，“一次开发、多芯快速落地”的技术路径已具备规模化工程能力，正加速推动AI芯片与大模型生态的深度融合。
本次发布的Qwen3.8-2.4T-A95B，是阿里通义千问系列中参数量最大、综合能力最强的开源版本，首次将原本仅限闭源使用的Qwen-Max级别模型全面开放。核心亮点如下：
· 采用超大规模混合专家（MoE）架构，总参数达2.4万亿（2.4T），每轮激活参数约950亿（95B），纯文本语言模型
· 在编程能力、专业任务处理、科研辅助及长程智能体协作等方面显著增强；支持reasoning_effort动态调节推理深度，preserve_thinking保留完整思维链过程
· 原生上下文长度达262,144 tokens，支持扩展至1,010,000；提供BF16/FP8权重格式，无缝兼容vLLM、SGLang、Token Speed等主流推理框架
在Coding Agent专项评测中，Qwen3.8-Max相较前代Qwen3.7-Max表现全面提升：Terminal Bench 2.1得分由74.5跃升至86.6；SWE-bench Pro从60.6提升至67.7，逼近Opus 4.8（69.2）；Paper Bench则实现跨越式增长——由64.8大幅攀升至93.0，超越Opus 4.8（80.3）。
尽管Qwen3.8-2.4T模型主体结构相较于Qwen3.5/Qwen3.6变化不大，但其参数规模较Qwen3.5-397B扩大整整6倍，成为此次适配的最大挑战。为确保当前主流AI芯片均可高效运行该模型，FlagOS需系统性攻克因参数爆炸式增长引发的一系列底层优化难题。为此，FlagOS技术栈全新引入面向多芯片平台的统一INT8量化能力，并通过FlagOS-Compressor多芯片模型压缩工具链，构建起两条并行量化路径——分别支持FP8/BF16原生权重向INT8的高效转换，并完成相应量化推理算子在多款国产及国际AI芯片上的适配。经实测验证，量化后模型在各类芯片平台上的输出质量与英伟达CUDA原生FP8版本高度一致，平均误差偏差均控制在可接受对齐范围内，切实保障了跨芯片迁移后的模型稳定性与准确性。依托FlagOS在编译器层、算子库、多芯片统一Plugin框架等全栈技术积累，团队高效完成了模型压缩、跨芯适配、精度校验、开源发布等关键环节。
一、从Day0适配到规模化验证：打通前沿模型与多元算力的“首日可用”
Qwen3.8-2.4T的多芯片Day0适配，标志着FlagOS持续紧跟大模型演进节奏、践行“新模型发布即多芯可用”理念的又一重要里程碑。自今年2月启动首次Day0适配以来，FlagOS技术团队已在半年内完成十余款……
这一能力精准回应国产AI算力产业化落地的两大核心诉求：一方面，助力云服务与应用生态第一时间上线最新模型；另一方面，赋能既有算力基础设施持续承载模型迭代，延长设备生命周期，释放存量算力价值。
1、为国产AI算力云服务抢占新模型“首发窗口”
统一LLM网关 - 一个API对接70+AI模型，使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。
对国内云服务商、智算中心及新兴Token算力平台而言，每次大模型更新都意味着新一轮底层适配与迁移工作。用户期待能在各类国产AI芯片上即时调用最新模型，但不同芯片厂商的适配路径彼此割裂，往往需重复投入大量工程资源，导致上线周期拉长——这不仅关乎技术能力，更直接影响云服务商能否把握住模型发布初期的市场先机。
该痛点在中小型Token算力服务商中尤为突出。受限于采购体量与技术储备，它们既难以推动芯片厂商为单一模型定制适配，也无力长期维持专职底层适配团队，因而格外依赖FlagOS这类开源第三方平台提供的通用技术支撑。
FlagOS Day0适配将新模型从发布到多芯就绪的时间压缩至24小时以内，使中小算力服务商得以基于国产芯片快速上线推理API与MaaS服务，大幅降低底层开发门槛与人力成本。
目前，腾讯云HAI社区、超算互联网等多个主流云平台已将FlagOS适配模型纳入其官方容器镜像中心。开发者可直接拉取预置镜像并部署至云端加速卡，快速搭建面向自身业务场景的MaaS推理服务。这表明FlagOS Day0适配已从技术可行性验证阶段，稳步迈向实际云服务交付阶段，有效缩短国产算力从“支持新模型”到“生成可用服务”的最后一公里。
2、让存量算力持续承接前沿模型：FlagOS释放硬件投资的长期价值
随着大模型规模持续膨胀，AI芯片迭代节奏不断加快。对于按多年周期规划与建设的AI算力集群而言，能否持续运行最新模型，直接决定智算中心服务器的实际利用率与产业投资回报可持续性。FlagOS致力于通过量化压缩、算子优化与跨芯片适配等系统级手段，为来自多家芯片厂商的存量AI算力拓展承载前沿模型的能力边界。
以Qwen3.8-2.4T为例，FlagOS-Compressor已全面支持W8A8量化方案，将模型权重与激活值由BF16压缩至INT8，在显著降低显存占用与内存带宽压力的同时，也解决了当前80%以上存量AI芯片不支持FP8指令集的现实瓶颈。为进一步适配不同代际的国产AI芯片，FlagOS技术栈还围绕量化后模型的参数规模、单卡显存容量、GPU卡数配置、内存带宽限制以及分布式通信策略展开全栈协同优化，使得当代及上一代国产AI算力设备亦有机会稳定运行最新超大规模MoE模型。
在智算中心重资产运营场景下，此举不仅关乎设备服役周期的延长，更直接影响算力投资的长期经济性。通过量化与系统软件层面的协同优化弥补部分硬件代际差距，可在保障部署可行性、模型精度与推理性能的前提下，为国产算力持续承载前沿模型提供兼具技术合理性与商业可持续性的解决方案。其目标并非追求旧硬件媲美新一代性能，亦非无差别延长所有设备寿命，而是在可验证的质量与效率基准之上，构建一条务实可行的国产算力演进路径。
