头部模型厂商开始把手伸向国产芯片的底层软件。深度求索今日宣布,开源一批面向昇腾算力平台的底层组件,其中包括被称作 TileLang 的高级语言编译工具,以及计算库与分布式通信库。这些组件与其此前面向英伟达平台开源的部分一一对应。

对自主可控的 GPU 软件生态来说,一门既好用又能释放硬件性能的高级编程语言是前提,TileLang 正是为此而来。相较 CUDA,它的编程门槛更低,能简化代码逻辑、提升开发效率;相比同类高级语言,它又能更充分地挖掘芯片潜力、逼近硬件性能上限。这套工具此前已在英伟达平台跑通,DeepSeek V4 系列训练时用到的多数算子,都基于它实现,也是它研发高性能算子、追寻通用人工智能的关键工具。
此次开放的昇腾版本,对 Ascend C 底层指令做了封装,在保留高级语言开发体验的同时,不会带来硬件性能损耗。据官方说法,训练中用到的每个 TileLang 算子,都已在昇腾平台完成高性能适配。
除编译工具外,本次还同步开放了昇腾平台的多个核心计算与通信组件,为不同业务提供可复用的底层能力:通用矩阵运算的加速交给 DeepGEMM;跨设备通信交给 DeepEP;向量计算与访存算子则由 TileKernels 提供;面向长上下文优化的稀疏注意力算子叫 FlashMLA;DeepSelect 则用来做高效数据筛选。多项测试显示,这些组件的计算与通信性能已接近硬件理论上限。
适配过程中,华为团队提供了充分的技术支持,双方协同完成了昇腾 950 平台上 128 卡超节点方案的落地,并针对计算与通信模块深度调优。DeepSeek 表示,希望这套昇腾版开源工作,能为其它 AI 芯片搭建可用软件生态提供范例。
对国产算力而言,这类底层工具的开放,意义往往比单个模型更长远。
文章与图片内容转载网络,如有侵权请联系平台删除

发表评论 取消回复