PAI 采用四层架构，覆盖从基础资源、平台工具到模型服务和场景化解决方案的完整AI开发链路。
如图所示，PAI的产品架构分为以下四层：
基础资源层（计算资源 & 基础设施）：
基础设施：提供CPU、GPU、高速RDMA网络及容器服务ACK等。
计算资源：包括云原生计算资源（灵骏智算资源、通用计算资源）和大数据引擎资源（MaxCompute、Flink）。
平台工具层（灵骏智算服务 & 人工智能框架）：
AI框架：支持Alink、TensorFlow、PyTorch、Megatron、DeepSpeed及RLHF等主流框架。
优化与加速：提供数据集加速（DatasetAcc）、训练加速（TorchAcc）、并行训练（EPL）、推理加速（BladeLLM）、自动容错训练（AIMaster）及训练快照（EasyCkpt）。
全流程机器学习工具：
数据准备：iTAG数据标注和数据集管理。
模型开发与训练：可视化建模（Designer）、交互式建模（DSW）、分布式训练（DLC）以及特征平台（FeatureStore），满足不同建模需求。
模型部署：使用模型在线服务（EAS），快速将模型部署为服务。
应用层（模型服务）：支持与ModelScope魔搭社区、PAI-DashScope、第三方MaaS平台和阿里云百炼等模型服务平台集成。
业务层（场景化解决方案）：PAI为自动驾驶、科研智算、金融风控、智能推荐等领域提供场景化解决方案。例如：阿里巴巴集团内部的搜索系统、推荐系统及金融服务系统等，均依赖PAI进行数据挖掘。