阿里云灵骏真武M890超节点适配Qwen3.8 开启2.4万亿参数大模型高效推理新篇

   发布时间:2026-07-23 18:02 作者:赵静

阿里云近日宣布,其灵骏真武M890超节点实例已成功完成对Qwen3.8大模型的适配,并在阿里云百炼平台正式上线模型推理服务。这一突破标志着国内首次实现超2万亿参数大模型在超节点上的稳定运行,为AI算力领域树立了新的里程碑。

作为阿里最新推出的旗舰模型,Qwen3.8拥有高达2.4万亿的参数规模。要实现如此庞大模型的稳定运行,需要将参数分散至数十甚至上百张高速互联的GPU卡上。传统AI集群受限于通信带宽,难以满足高吞吐、低延迟、高并发的计算需求,而灵骏真武M890超节点实例通过技术创新突破了这一瓶颈。

真武M890是平头哥研发的新一代训推一体AI芯片,支持从FP32到FP4的多种数据精度,可覆盖高精度训练、低精度及超低精度推理的全场景应用。该超节点实例通过ICN Switch 1.0互联芯片,将64张真武M890芯片实现800GB/s的高速互联,显存规模达9TB,单实例即可支撑2万亿参数MoE模型的专家并行计算需求。

阿里云从芯片到云平台层面进行了全链路优化,使Qwen3.8在超节点实例上实现流畅运行的同时,显著提升了推理效率并降低了成本。实测数据显示,通过算子优化与软硬件架构协同,该实例在Agentic推理场景中可实现最高1.5倍的性能提升,为大规模AI模型的应用提供了更高效的解决方案。

 
 
更多>同类内容
全站最新
热门内容
本栏最新