Membuat layanan model yang memungkinkan fungsi AI memanggil model. Anda dapat membuat layanan untuk dua jenis model: model dari Alibaba Cloud Model Studio atau model pada node Hologres AI. Jika Anda menggunakan node Hologres AI, Anda harus membeli sumber daya node AI secara terpisah.
Deskripsi operasi
Untuk membuat layanan model, Anda harus menentukan beberapa parameter. Gunakan operasi ListModelCatalog untuk menemukan parameter untuk model dari Alibaba Cloud Model Studio, dan gunakan operasi GetAvailableModelsResource untuk model pada node Hologres AI.
Coba sekarang
Test
RAM authorization
Sintaks permintaan
POST /api/v1/instances/{instanceId}/createModelService HTTP/1.1
Path Parameters
|
Parameter |
Type |
Required |
Description |
Example |
| instanceId |
string |
Yes |
ID instance. |
hgpostcn-cn-lbj335xxxx |
Parameter permintaan
|
Parameter |
Type |
Required |
Description |
Example |
| body |
object |
No |
Body permintaan. |
|
| modelType |
string |
Yes |
Nama model. Untuk menemukan nama, panggil |
qwen3.5-plus |
| cpu |
integer |
No |
Jumlah vCPU. Parameter ini hanya diperlukan untuk node Hologres AI. |
16 |
| memory |
integer |
No |
Ukuran memori dalam GB. Parameter ini hanya diperlukan untuk node Hologres AI. |
64 |
| gpu |
integer |
No |
Jumlah GPU. Parameter ini hanya diperlukan untuk node Hologres AI. |
1 |
| serviceCount |
integer |
No |
Jumlah replika. Parameter ini hanya diperlukan untuk node Hologres AI. |
2 |
| modelServiceName |
string |
Yes |
Nama kustom untuk layanan model. |
my_model |
| gpuMemory |
integer |
No |
Ukuran memori GPU dalam GB. Parameter ini hanya diperlukan untuk node Hologres AI. |
64 |
| taskType |
string |
No |
Jenis tugas yang dilakukan model, seperti |
embedding |
| provider |
string |
No |
Penyedia model yang mendasari. Valid values:
|
bailian |
| apiKey |
string |
No |
Kunci API untuk Alibaba Cloud Model Studio. Parameter ini hanya diperlukan untuk model Model Studio. Anda dapat memperoleh kunci ini dari konsol Model Studio atau dengan memanggil API. |
api-key-xxx |
| modelParams |
string |
No |
Parameter model, hanya diperlukan untuk model Model Studio. Anda dapat memberikan parameter default yang dikembalikan oleh operasi |
{"timeout":600,"max_retries":10,"max_retry_delay":8,"initial_retry_delay":0.5} |
Elemen respons
|
Element |
Type |
Description |
Example |
|
object |
Skema respons. |
||
| requestId |
string |
ID permintaan. |
819A7F0F-2951-540F-BD94-6A41ECF0281F |
| data |
boolean |
Menunjukkan apakah operasi berhasil. Nilai |
true |
Contoh
Respons sukses
JSONformat
{
"requestId": "819A7F0F-2951-540F-BD94-6A41ECF0281F",
"data": true
}
Kode kesalahan
Lihat Error Codes untuk daftar lengkap.
Catatan rilis
Lihat Release Notes untuk daftar lengkap.