【php中文网快讯】据 it 之家消息,openai 官方于今日清晨正式对外披露了其首款自主研发推理芯片 jalapeño 的实测性能表现。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
该芯片专为大语言模型推理任务量身打造,基于全新开创的架构设计,在显著提升吞吐能力的同时有效压低响应延迟,兼顾高效率与低时延两大关键指标。在多项主流大模型的实际测试中,其能效比已超越英伟达 GB200 和 GB300 系统。OpenAI 首席执行官 Sam Altman 在 X 平台发文称:“我们造出了一颗芯片,跑得非常快。”
早在两个月前,OpenAI 已联合博通正式推出这款芯片(详情可参见 PHP 中文网此前报道:《OpenAI 发布首款自研 AI 芯片 Jalapeño:联合博通打造,9 个月完成设计至流片全流程》)。需特别指出的是,Jalapeño 明确聚焦于推理场景,不参与下一代 GPT 模型的训练工作。通俗而言,模型训练是让 AI 学会“思考”,而推理则是实时响应用户提问——本芯片的核心使命,正是优化后者这一环节的执行效能。
统一LLM网关 - 一个API对接70+AI模型,使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。
本次性能评估采用由 SemiAnalysis 推出的开源推理基准工具 InferenceX,测试涵盖 GPT-OSS 120B、DeepSeek R1 670B 及 Kimi K2.5 1T 三款代表性大模型。数据显示,在与 GB200、GB300 等当前主流 AI 加速系统的横向对比中,Jalapeño 的每瓦 AI 吞吐量达到前者的 1.5 至 1.9 倍;端到端推理延迟则压缩至对比系统的 28%~59%。
进一步分模型观察:在运行 GPT-OSS 120B 时,该芯片每千瓦峰值吞吐量约为 GB200 的 1.9 倍;处理 DeepSeek R1 模型时,其每瓦 AI 吞吐量为 GB300 的 1.7 倍;面对 Kimi K2.5 模型,每瓦吞吐量亦达 GB300 的 1.5 倍。芯片额定功耗为 700 瓦,但在实际负载工况下,持续功耗可稳定控制在 550 瓦以内。

















