据IT之家报道,OpenAI官方今日一早公布了首款自研推理芯片Jalapeno的实测性能数据。据悉,这款芯片面向大语言模型推理场景定制,依靠全新架构同时实现吞吐量提升与延迟降低,兼顾推理效率与响应速度,多项模型测试下能效表现优于英伟达GB200、GB300系统。
两个月前,OpenAI正式发布了这款与博通联合研发的芯片,从设计到流片仅用9个月时间完成全流程。此次公布的实测数据,是这款芯片首次向外界展示其在真实大模型负载下的表现。
OpenAI采用SemiAnalysis推出的InferenceX公开基准工具完成评测,测试覆盖GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1T三款大模型,涵盖不同参数量级与架构形态,力求反映芯片在多样化推理场景下的综合实力。

分模型具体来看,运行GPT-OSS 120B时,芯片每千瓦峰值吞吐量比GB200高出约1.9倍;运行DeepSeek R1时,每瓦AI吞吐量达到GB300的1.7倍;运行Kimi K2.5时同样保持显著能效优势。这意味着在同等功耗预算下,Jalapeno能够处理更多推理请求,或在同等吞吐需求下消耗更少电力,对大规模推理集群的运营成本控制具有重要意义。
OpenAI CEO Sam Altman在发布时强调,自研芯片的目标并非简单替代现有供应链,而是在推理成本与架构灵活性上建立长期优势。随着大模型推理需求持续攀升,芯片能效正成为AI厂商竞争的关键维度,OpenAI此次公布的数据无疑给英伟达主导的推理芯片市场投下了一枚重磅炸弹。
当然,从流片成功到大规模商用仍有距离。Jalapeno的实际部署节奏、良率表现以及与现有训练/推理集群的整合方案,将是决定其能否真正撼动市场格局的下一个看点。
文章与图片内容转载网络,如有侵权请联系平台删除

发表评论 取消回复