人工智能平台 PAI - EAS支持EP专家并行部署
Aug 25 2025
人工智能平台 PAIEAS支持了专家并行(Expert Parallelism, EP)部署,为客户提供了MoE模型的高性能推理部署方案。
适用客户
适用于基于EAS部署混合专家模型(Mixture of Experts, MoE)服务的客户。
新增功能/规格
EAS实现了DeepSeek-R1等MoE模型的EP部署,支持vLLM和SGLang等推理引擎,赋能客户突破硬件限制,提升资源利用率和系统吞吐量。
Aug 25 2025
人工智能平台 PAI适用于基于EAS部署混合专家模型(Mixture of Experts, MoE)服务的客户。
EAS实现了DeepSeek-R1等MoE模型的EP部署,支持vLLM和SGLang等推理引擎,赋能客户突破硬件限制,提升资源利用率和系统吞吐量。