Menyediakan antarmuka streaming SSE untuk layanan OS Copilot.
Deskripsi operasi
Gunakan operasi ini bersama antarmuka call_sseapi di paket aliyun-tea-openapi-inner.
Isi parameter berdasarkan parameter masukan layanan LLM standar, ubah menjadi string, dan tetapkan string tersebut ke llmParamString.
Ubah data string yang dikembalikan menjadi dict sebelum digunakan. Lihat format tanggapan layanan LLM standar.
Coba sekarang
Test
RAM authorization
|
Action |
Access level |
Resource type |
Condition key |
Dependent action |
|
sysom:GenerateCopilotStreamResponse |
none |
*Semua sumber daya.
|
None | None |
Sintaks permintaan
POST /api/v1/copilot/generate_copilot_stream_response HTTP/1.1Parameter permintaan
|
Parameter |
Type |
Required |
Description |
Example |
| body |
object |
No |
Badan permintaan. |
|
| llmParamString |
string |
No |
Parameter masukan untuk layanan LLM Copilot. Lihat dict parameter masukan antarmuka LLM standar. Ubah dict menjadi string dan teruskan ke llmParamString. |
"{\"model\":\"Qwen-7B-Chat\",\"temperature\":0.9,\"max_tokens\":1000,\"top_p\":1,\"frequency_penalty\":0.0,\"presence_penalty\":0.6,\"Paket\":[{\"role\":\"user\",\"content\":\"Saya adalah seorang insinyur OS\"},{\"role\":\"assistant\",\"content\":\"Halo. Saya adalah model bahasa AI, senang membantu Anda. Apa yang bisa saya lakukan untuk Anda?\"},{\"role\":\"user\",\"content\":\"Apakah Anda tahu apa itu Alinux?\"}]}" |
Elemen respons
|
Element |
Type |
Description |
Example |
|
object |
Skema tanggapan. |
||
| code |
string |
Kode kesalahan. |
SysomOpenAPI.ServerError |
| data |
string |
Data yang dikembalikan oleh layanan LLM dalam format string. Jika data berupa dict, ubah dan mengurai sendiri. |
{'choices': [{'finish_reason': 'stop', 'index': 0, 'Paket': {'content': 'Alinux adalah sistem operasi sumber terbuka berbasis Linux yang terutama dikembangkan dan dikelola oleh Alibaba Group, dirancang untuk lingkungan komputasi awan skala besar dan pemrosesan data besar. Sistem ini telah disesuaikan dan dioptimalkan secara mendalam untuk konkurensi tinggi, latensi rendah, dan utilisasi resource guna memenuhi persyaratan bisnis yang kompleks dan masif di dalam Alibaba. Karena kinerja dan stabilitasnya yang sangat baik, Alinux secara bertahap telah diadopsi oleh perusahaan dan lembaga penelitian eksternal, terutama di area yang memerlukan penanganan skenario beban tinggi. Dibandingkan dengan distribusi Linux standar, Alinux mungkin mencakup patch kernel spesifik, set alat optimasi, dan fitur lain yang dikembangkan secara internal oleh Alibaba. Namun, perlu dicatat bahwa meskipun "Ali" dalam nama tersebut mungkin menunjukkan hubungan erat dengan Alibaba, Alinux sebagai proyek menjadi sub-proyek di bawah OpenAtom Foundation pada tahun 2021, yang dikenal sebagai OpenAnolis, menandai kemajuannya menuju adopsi yang digerakkan oleh komunitas dan lebih luas.', 'role': 'assistant'}}], 'model': 'Qwen1.5', 'sentiment': [], 'status_code': 200, 'time': 6.836989402770996, 'usage': {'completion_tokens': 180, 'prompt_tokens': 176, 'time_dict': {'auto_regression_time': 0.03798324399524265, 'speed': 26.327398474054736, 'total_generate_time': 6.836983919143677}, 'total_tokens': 356}} |
| message |
string |
Paket error. Nilai ini kosong jika tidak terjadi error. |
Permintaan untuk layanan llm gagal |
| requestId |
string |
ID permintaan. |
2D693121-C925-5154-8DF6-C09A8B369822 |
Contoh
Respons sukses
JSONformat
{
"code": "SysomOpenAPI.ServerError",
"data": "{'choices': [{'finish_reason': 'stop', 'index': 0, 'Paket': {'content': 'Alinux adalah sistem operasi open source berbasis Linux yang terutama dikembangkan dan dikelola oleh Alibaba Group, dirancang untuk lingkungan komputasi cloud skala besar dan pemrosesan data besar. Sistem ini telah dikustomisasi dan dioptimalkan secara mendalam untuk konkurensi tinggi, latensi rendah, dan utilisasi resource guna memenuhi tuntutan bisnis yang kompleks dan masif di dalam Alibaba. Karena kinerja dan stabilitasnya yang sangat baik, Alinux secara bertahap telah diadopsi oleh perusahaan dan lembaga penelitian eksternal, terutama di area yang memerlukan penanganan skenario beban tinggi. Dibandingkan dengan distribusi Linux standar, Alinux mungkin mencakup patch kernel spesifik, set alat optimasi, dan fitur lain yang dikembangkan secara internal oleh Alibaba. Namun, perlu dicatat bahwa meskipun \"Ali\" dalam namanya mungkin menunjukkan hubungan erat dengan Alibaba, Alinux sebagai proyek menjadi sub-proyek di bawah OpenAtom Foundation pada tahun 2021, yang dikenal sebagai OpenAnolis, menandai perkembangannya menuju adopsi yang lebih luas dan digerakkan oleh komunitas.', 'role': 'assistant'}}], 'model': 'Qwen1.5', 'sentiment': [], 'status_code': 200, 'time': 6.836989402770996, 'usage': {'completion_tokens': 180, 'prompt_tokens': 176, 'time_dict': {'auto_regression_time': 0.03798324399524265, 'speed': 26.327398474054736, 'total_generate_time': 6.836983919143677}, 'total_tokens': 356}}",
"message": "Permintaan ke layanan LLM gagal",
"requestId": "2D693121-C925-5154-8DF6-C09A8B369822\n"
}Kode kesalahan
Lihat Error Codes untuk daftar lengkap.
Catatan rilis
Lihat Release Notes untuk daftar lengkap.