在阿里云上使用 通义千问 构建多模态对话助手
参考架构
您的挑战:
构建能够理解多模态数据的对话助手,需要高性能AI模型、强大的生成式AI开发平台和完善的解决方案。
我们的解决方案:
-
阿里云提供一系列技术支柱,作为多模态AI开发的基础:
Qwen-Audio:处理各类音频输入的大型音频语言模型。
Qwen-VL:分析图像并揭示细节和文本的大型视觉语言模型。
智能开放搜索 OpenSearch:利用向量检索和大模型定制问答系统的对话式搜索服务。
Qwen-Agent:开发大模型应用的框架,编排智能体执行指令和复杂任务。
PAI-EAS:一键将 通义千问 等主流多模态AI模型部署为Web服务。
这些产品通过规划智能体相互协同,可将此智能体的API部署在ECS上,并连接钉钉或其他即时通讯工具。
在PAI-EAS上部署Llama 2模型
结果演示
关于Llama 2:
Llama是开源的大语言模型。相比前代Llama 1,Llama 2拥有更多训练数据和更长的上下文长度,在大规模生成自然语言时更加通用和准确。Llama 2提供多种参数规模版本,包括70亿、130亿和700亿参数。
部署:
-
PAI-EAS(Elastic Algorithm Service)是PAI(PAI)的组件,让用户轻松部署和管理AI应用。它包含PAI-Blade推理加速器,这是一款硬件加速器,专为提升大模型推理性能而设计,推理速度最高可达传统方法的六倍。这意味着可以处理更多数据、生成更快的响应,并提升语言应用的性能。通过WebUI只需几下点击即可在PAI-EAS上运行Llama 2,配合博客中提供的示例代码,也可以使用博客中的Python Wrapper API代码搭建Llama 2服务。博客中还介绍了如何在PAI-EAS上为Llama 2挂载自定义模型。
阿里云上的生成式AI
借助生成式AI加速创新,创造新的商业成功
在PAI上运行Stable Diffusion模型
结果演示
关于Stable Diffusion:
Stable Diffusion是一个开源且广受欢迎的跨模态生成模型,利用先进的深度学习算法和技术,根据文本描述生成视觉效果出色的图像。通过迭代更新生成的图像,逐步提升最终结果的质量、连贯性和保真度。
部署:
-
借助PAI-DSW(Data Science Workshop)对Stable Diffusion模型进行微调。利用PAI-DLC(Deep Learning Container)快速搭建和管理深度学习环境,内置主流深度学习框架的即用容器。最后通过PAI-EAS只需几下点击即可部署模型并创建文本生成图像服务。
使用云原生数据仓库云原生数据仓库AnalyticDB PostgreSQL版进行向量查询与分析
结果演示
您的挑战:
大量复杂的非结构化数据对传统向量数据库在实时性能分析、成本控制和系统兼容性方面提出了挑战,同时业务可扩展性也是一大关键考量。
我们的解决方案:
-
云原生数据仓库云原生数据仓库AnalyticDB PostgreSQL版是具备大规模并行处理(MPP)能力的云原生数据仓库。其向量数据库功能可帮助您管理文档、邮件、图像和网页内容等大规模非结构化数据,适用于管理和处理大量结构化与非结构化数据、提供实时分析并适应不断变化的业务需求的现代数据服务。具有特定领域需求的企业可利用云原生数据仓库云原生数据仓库AnalyticDB PostgreSQL版,基于领域专用或专业数据产出准确的主题结果。在本示例中,您可以轻松构建一个智能对话机器人,将大模型的学习和理解能力与云原生数据仓库云原生数据仓库AnalyticDB PostgreSQL版的核心能力(包括内置向量数据检索和全文检索)相结合,基于企业知识提供专业、及时的解答。
阿里云上的生成式AI
借助生成式AI加速创新,创造新的商业成功
使用智能开放搜索 OpenSearch向量检索版构建对话式搜索服务
结果演示
您的挑战:
电商和在线社交平台等行业拥有大量非结构化数据,且数据量持续增长、不断变化,客户咨询通常较为复杂,需要实时响应。基于大模型的搜索服务无法满足客户对准确性和及时性的需求,且硬件成本高昂。
我们的解决方案:
-
智能开放搜索 OpenSearch提供高性能搜索服务,支持十亿级128维文档(向量数据),可实现千级QPS和毫秒级查询响应。集成多种向量数据检索算法,支持混合搜索、表达式过滤、边搜边筛等复杂搜索需求。通过数据压缩和精细索引结构设计,降低存储和内存需求,在大规模场景下节省硬件成本。可将智能开放搜索 OpenSearch与大模型通过服务工具结合,构建智能、专属、实时的搜索服务,提升服务质量和及时性,无需大量硬件投入。
基于Stable Diffusion模型搭建虚拟试穿服务
结果演示
您的挑战:
基于图像的虚拟试穿通过生成目标模特穿着指定服装的图像,为用户提供更便捷、更个性化的用户体验。然而,始终保持自然逼真的效果并非易事,尤其在规模化场景下更具挑战。
我们的解决方案:
-
LoRA(Low-Rank Adaptive Relational Attention)是一种广泛使用的AI图像生成算法,允许用户通过添加少量参数和使用少量数据集对生成模型进行微调。Platform for AI(PAI)支持基于LoRA和Stable Diffusion模型快速便捷地微调AI生成图像,在降低可训练参数数量和GPU显存需求的同时,为模型、姿态和背景提供了丰富的生成空间。这为时尚零售行业开启了更个性化、更智能的客户体验新可能。
