开云体育再到端到端部署考据的系统化适配链路-开云「中国」官方网站
发布日期:2026-11-09 05:26 点击次数:185

据摩尔线程-U(688795.SH)公众号5月1日音书,近日,摩尔线程依托旗舰级AI训推一体智算卡MTT S5000与自研MUSA软件栈,基于SGLang开源推理框架,告捷完成DeepSeek-V4的完整启动考据。该遵循标明,面向新一代MoE大模子,摩尔线程已构建起从硬件架构核神思较引擎衔接、热门算子救助,再到端到端部署考据的系统化适配链路,考据了国产GPU平台对前沿大模子“框架级兼容、开箱即落地”的承载实力及工程化落地才智。
跟着大模子架构握续演进,DeepSeek-V4等先进模子对底层精度才智、算子隐蔽、编译优化、并行通讯和推理遵循提议了严苛条目。摩尔线程充分阐明S5000原生FP8算力、MUSA对CUDA深度兼容、TileLang MUSA编译器对TileLang生态圆善救助等上风,皆集TileKernels开源库复用,基于TileLang快捷缔造自界说算子等手艺,快速买通了DeepSeek-V4推理适配链路,再次考据了摩尔线程为缔造者和行业用户提供高效、易部署的国产大模子启动软硬件底座的才智。
值得严防的是,TileLang-MUSA已肃穆干涉TileLang官方干线,竣事了对DeepSeek-V4最新发布TileLang算子库TileKernels的Day-0无缝救助。这意味着MUSA平台已具备承载前沿LLM算子生态的工程基础开云体育,为后续先进开源模子适配提供了径直复用的算子通路。