GenerateCopilotStreamResponse - 请求os copilot服务流式sse接口 - Alibaba Cloud Linux

接口说明

需配合 aliyun-tea-openapi-inner 包的 call_sseapi 接口使用
需要按通用 LLM 服务输入参数填充参数，转为 string 后赋给 llmParamString
返回数据需将 string 转为 dict 后使用，参考通用 LLM 服务返回格式

调试

您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。

调试

授权信息

下表是API对应的授权信息，可以在RAM权限策略语句的Action元素中使用，用来给RAM用户或RAM角色授予调用此API的权限。具体说明如下：

操作：是指具体的权限点。
访问级别：是指每个操作的访问级别，取值为写入（Write）、读取（Read）或列出（List）。
资源类型：是指操作中支持授权的资源类型。具体说明如下：
- 对于必选的资源类型，用前面加 * 表示。
- 对于不支持资源级授权的操作，用全部资源表示。
条件关键字：是指云产品自身定义的条件关键字。
关联操作：是指成功执行操作所需要的其他权限。操作者必须同时具备关联操作的权限，操作才能成功。

操作

访问级别

资源类型

条件关键字

关联操作

sysom:GenerateCopilotStreamResponse

none

*全部资源

*

无

请求语法

POST /api/v1/copilot/generate_copilot_stream_response HTTP/1.1

请求参数

名称	类型	必填	描述	示例值
body	object	否	请求 Body
llmParamString	string	否	对接 copilot llm 服务的入参，参考标准 LLM 接口入参 dict，需要转化成 string 并传入 llmParamString 中	"{\"model\":\"Qwen-7B-Chat\",\"temperature\":0.9,\"max_tokens\":1000,\"top_p\":1,\"frequency_penalty\":0.0,\"presence_penalty\":0.6,\"messages\":[{\"role\":\"user\",\"content\":\"我是os工程师\"},{\"role\":\"assistant\",\"content\":\"您好。我是AI语言模型，很高兴为您服务。有什么我能帮助您的呢\"},{\"role\":\"user\",\"content\":\"你知道什么是alinux吗\"}]}"

返回参数

名称	类型	描述	示例值
	object	Schema of Response
code	string	错误码	SysomOpenAPI.ServerError
data	string	llm 服务返回的 data，字符串类型，如为 dict 需自行转换解析	{'choices': [{'finish_reason': 'stop', 'index': 0, 'message': {'content': 'Alinux是一个基于Linux的开源操作系统，它主要由阿里巴巴集团开发和维护，专为大规模云计算和大数据处理环境设计。这个系统针对高并发、低延迟以及资源利用率优化进行了深度定制和改良，以适应阿里内部复杂且庞大的业务需求。由于其在性能和稳定性方面的优秀表现，Alinux也在逐渐被外部的一些企业和研究机构采用，特别是在需要处理高负载场景的领域。与标准Linux发行版相比，Alinux可能包含特定的内核补丁、优化工具集以及其他阿里巴巴内部研发的特性。然而，值得注意的是，尽管名称中的“Ali”可能让人联想到与阿里巴巴的紧密关系，但Alinux作为一个项目，已经于2021年成为开放原子开源基金会（OpenAtom Foundation）下的一个子项目，即 OpenAnolis，这标志着它的社区化和广泛化的进程。', 'role': 'assistant'}}], 'model': 'Qwen1.5', 'sentiment': [], 'status_code': 200, 'time': 6.836989402770996, 'usage': {'completion_tokens': 180, 'prompt_tokens': 176, 'time_dict': {'auto_regression_time': 0.03798324399524265, 'speed': 26.327398474054736, 'total_generate_time': 6.836983919143677}, 'total_tokens': 356}}
message	string	错误码描述，若无错误则为空	Requests for llm service failed
requestId	string	Id of the request	2D693121-C925-5154-8DF6-C09A8B369822

示例

正常返回示例

JSON格式

{
  "code": "SysomOpenAPI.ServerError\n",
  "data": "{'choices': [{'finish_reason': 'stop', 'index': 0, 'message': {'content': 'Alinux是一个基于Linux的开源操作系统，它主要由阿里巴巴集团开发和维护，专为大规模云计算和大数据处理环境设计。这个系统针对高并发、低延迟以及资源利用率优化进行了深度定制和改良，以适应阿里内部复杂且庞大的业务需求。由于其在性能和稳定性方面的优秀表现，Alinux也在逐渐被外部的一些企业和研究机构采用，特别是在需要处理高负载场景的领域。与标准Linux发行版相比，Alinux可能包含特定的内核补丁、优化工具集以及其他阿里巴巴内部研发的特性。然而，值得注意的是，尽管名称中的“Ali”可能让人联想到与阿里巴巴的紧密关系，但Alinux作为一个项目，已经于2021年成为开放原子开源基金会（OpenAtom Foundation）下的一个子项目，即 OpenAnolis，这标志着它的社区化和广泛化的进程。', 'role': 'assistant'}}], 'model': 'Qwen1.5', 'sentiment': [], 'status_code': 200, 'time': 6.836989402770996, 'usage': {'completion_tokens': 180, 'prompt_tokens': 176, 'time_dict': {'auto_regression_time': 0.03798324399524265, 'speed': 26.327398474054736, 'total_generate_time': 6.836983919143677}, 'total_tokens': 356}}",
  "message": "Requests for llm service failed\n",
  "requestId": "2D693121-C925-5154-8DF6-C09A8B369822\n"
}

错误码

访问错误中心查看更多错误码。

变更历史

更多信息，参考变更详情。