小红书开源模型dots3-note完成华为昇腾全链路适配

小红书近日发布了全新开源大模型dots3-note preview，该模型拥有280B参数量及16B激活参数，具备全模态感知与理解能力。在模型发布当日，华为昇腾计算平台迅速完成了对其全量适配与深度性能优化。

针对该模型的MoE架构与多模态特性，华为昇腾利用Atlas 800A3及900A3 SuperPoD超节点，结合vLLM Ascend引擎进行了底层重构。此次优化不仅消除了多卡间的重复计算，还通过MTP投机解码技术有效解决了增量推理延迟，显著提升了推理吞吐量。

通过此次合作，dots3-note在国产算力基础设施上的运行效率得到保障，为长程复杂任务与原生多模态交互提供了稳定底座，进一步验证了华为昇腾对大规模开源模型的快速支撑能力。