常见问题 - 大模型服务平台百炼

本文档汇总了在使用阿里云百炼大模型服务平台时遇到的常见问题及其解答。

计费相关

阿里云百炼平台中模型服务中各模型的收费单价是什么？
详情请参见模型列表与价格与计费项。
目前是否有预付费相关的服务？
部分模型支持预付费服务，详情请参见节省计划。
后付费的账单是月结算吗？
按小时出账，按月结算。
如何查询扣款项及明细？
请前往费用与成本查看。
已经消费的金额，如何申请开票？
请在月账单概览页面，按需单击目标账号右侧操作列下的下载发票。

API/SDK相关

如何查看错误码信息？
阿里云百炼模型服务的API调用将返回状态码以标识调用结果。详情及解决方案请参见错误信息。
如何安装SDK?
阿里云百炼目前支持Java和Python语言的SDK。详情请参见安装SDK。
Assistant API 调用 function call ，用户需要依次调用两个本地函数，现在支持吗？
a.目前不支持分别调用两个函数。
b.手动创建两个Assistant API，分别分配两个Assistant API的使用返回。
Assistant API 有memory相关的能力吗?
当前暂不支持memory配置功能。

产品相关

如何开通阿里云百炼服务？
登录阿里云账号，访问阿里云百炼大模型服务平台（新加坡）或阿里云百炼大模型服务平台（北京）。在首页/模型广场，均可点击开通模型服务，按需开通即可。详细内容请查看：产品开通。
开通阿里云百炼服务后如何关闭？
目前，阿里云百炼服务开通后暂不支持关闭。如果您通过API来调用模型/应用，您只需要在控制台的API-KEY（新加坡）或 API Key（北京）页面中删除 API-KEY 即可避免后续的调用。
如何体验大模型服务？
可通过模型体验中心（新加坡）或模型体验中心（北京）进行体验。
阿里云百炼和通义千问的区别是什么？
阿里云百炼是一个大模型服务平台，提供包括通义千问系列在内的多种大模型。
如何实现业务数据隔离，使不同用户的数据之间不关联？
可以通过主账号给不同子账号授予不同的业务空间权限，不同业务空间的数据互不影响，存在隔离。详细操作内容点击业务空间管理查看。
阿里云百炼是否保存模型调用时产生的数据？
阿里云严格保护数据隐私，绝不会将您的数据用于模型训练。同时，您在构建应用过程中传输的数据都会经过加密，确保数据安全。
通过阿里云百炼调用模型时，您的数据如何被处理和保留，取决于您调用模型的方式：
- 通过模型API调用模型时，阿里云百炼不会保存对话数据。调用过程只对调用状态进行脱敏日志记录，调用结束后对明文的提示词以及应答结果进行销毁，不会保存数据。
- 通过Assistant API调用模型时，阿里云百炼会保存对话数据以增强用户体验，目前暂无数据失效日期。
- 通过阿里云百炼应用调用模型时：对话历史记录默认缓存60分钟，缓存的对话轮数通过“携带上下文轮数”参数指定。如果60分钟内发生一次对话，缓存的失效时间会往后延60分钟。如果60分钟内没有发生对话，对话历史记录将失效，即数据被销毁。

模型中心

所谓大模型参数是怎么存储的？
您可以从魔搭社区下载开源模型，其结构通常在JSON文件中定义。通常需要使用开源的Python库来解析这些文件，其中包含了向量信息，这有助于理解其存储过程。
通义千问系列模型支持多少种语言？
14种，分别是中文、英文、阿拉伯语、西班牙语、法语、葡萄牙语、德语、意大利语、俄语、日语、韩语、越南语、泰语、印度尼西亚语。
当前模型可以对接结构化数据吗？比如MySQL和hive等。
当前不支持。但已经在开发中，优先对接RDS服务。
请问Qwen3、Qwen-Max等模型的文字生成速度对所有用户都是固定的吗，有没有调速的途径？
生成速度不是固定的，它会受到当前服务的整体负载和您的请求并发情况等因素的影响。
模型限流触发后，一般需要等多长时间再次尝试呢？
等待时间取决于您的具体限流值（RPS/RPM）。例如，如果您的限流是120 RPM（每分钟查询数），即每秒2次请求。如果您在0.2秒内连续提交了2次请求，第3次请求就会被限流，您需要等待大约0.8秒后才能再次成功提交。