人工智能平台 PAI - Model Gallery支持模型推理加速
Jan 17 2025
人工智能平台 PAI在模型部署时,帮助客户自动匹配并使用模型推理加速能力,降低推理成本
适用客户
对模型推理成本敏感的客户,对性价比要求较高的客户
新增功能/规格
PAI-Model Gallery中的预训练模型可根据机型选择情况,匹配出可支持的推理加速能力(vllm、BladeLLM)。
Jan 17 2025
人工智能平台 PAI对模型推理成本敏感的客户,对性价比要求较高的客户
PAI-Model Gallery中的预训练模型可根据机型选择情况,匹配出可支持的推理加速能力(vllm、BladeLLM)。