功能优化

人工智能平台 PAI - PAI-EAS模型预热缓存功能发布

模型预热缓存服务是用于预先加载指定模型缓存的独立服务,能够为启用模型缓存加速的推理服务提供高速访问的数据源。适用于LLM、AI生图、AI生视频等需要使用OSS/NAS挂载大型模型文件的场景。
国际站产品文档

https://www.alibabacloud.com/help/en/pai/user-guide/model-cache-acceleration?spm=a2c63.l28256.help-menu-30347.d_3_3_9_0.30b747c22FWJCl

优化内容

在既有通过模型缓存服务实现高效扩缩容的基础上,进一步引入独立缓存服务的预热机制,用于提前就绪关键缓存态,从而显著加速推理服务冷启动过程。

阿里云第七代ECS正式发售

整体算力提升40%,芯片级安全防护。
搭载第三代英特尔®至强®可扩展处理器(代号"IceLake")。

  • 销售支持

    1对1售前咨询

  • 售后支持计划

    24/7 技术支持 每季度 6 个免费工单 更快的服务响应时间

  • 阿里云为客户提供专业、灵活的支持服务,以满足您多样化的业务需求。