Injeksikan parameter bisnis ke panggilan AI Agent & LLM-Intelligent Media Services-Alibaba Cloud - Intelligent Media Services

Anda dapat meneruskan parameter bisnis ke Alibaba Cloud Model Studio atau model bahasa besar (LLM) yang Anda kembangkan sendiri untuk memberikan konteks tambahan guna menghasilkan respons yang lebih akurat.

Pengenalan fitur

Fitur passthrough parameter memungkinkan Anda mengirim data bisnis kustom—seperti konteks pengguna, tag lingkungan, ID pengguna, atau informasi keanggotaan—bersama permintaan dalam rantai panggilan layanan. Hal ini memberikan konteks tambahan kepada LLM untuk mempertahankan logika bisnis, meningkatkan akurasi respons, serta memperkuat observabilitas sambil menjaga integritas data.

Kasus penggunaan

Dalam aplikasi agen AI, Anda dapat meneruskan parameter ke aplikasi di Alibaba Cloud Model Studio atau model yang Anda kembangkan sendiri. Misalnya, dalam skenario layanan pelanggan, meneruskan jenis masalah pengguna, segmen bisnis, dan riwayat pertanyaan membantu LLM memberikan jawaban yang lebih akurat dan relevan, sehingga meningkatkan efisiensi dukungan.

Contoh: Dalam dukungan e-commerce, meneruskan informasi produk yang dibeli pengguna memungkinkan LLM menyelesaikan masalah penggunaan produk atau purna jual dengan lebih cepat.

Implementasi

Agen panggilan audio/video

Teruskan ke Model Studio

Inisiasi sisi server: Saat memanggil API GenerateAIAgentCall atau StartAIAgentInstance, konfigurasikan parameter AIAgentConfig. Untuk informasi selengkapnya, lihat AIAgentConfig.
Inisiasi sisi klien: Pada parameter ARTCAICallConfig.agentConfig.llmConfig, konfigurasikan parameter BailianAppParams untuk meneruskan parameter ke Alibaba Cloud Model Studio. Untuk informasi selengkapnya, lihat Detail parameter Model Studio.

Kode contoh sisi klien

Android

// Buat dan konfigurasikan objek ARTCAICallConfig.
ARTCAICallEngine.ARTCAICallConfig artcaiCallConfig = new ARTCAICallEngine.ARTCAICallConfig();
 
// Konfigurasikan parameter bailianAppParams dari agentConfig. Ini adalah string JSON.
artcaiCallConfig.agentConfig.llmConfig.bailianAppParams = "XXX";

// Proses inisiasi panggilan dihilangkan.

iOS

// Konfigurasikan parameter bailianAppParams dari agentConfig.
let agentConfig = ARTCAICallAgentConfig()         // Buat objek ARTCAICallAgentConfig.
agentConfig.llmConfig.bailianAppParams = ["xxx", "xxxx"]
// Proses inisiasi panggilan dihilangkan.
...

Web

// Konfigurasikan parameter aiAgentBailianAppParams dari agentConfig.
const agentConfig = new AICallAgentConfig(); // Buat objek ARTCAICallAgentConfig.
agentConfig.llmConfig.bailianAppParams = {
  // Konfigurasikan parameter bailianAppParams.
};

// Proses inisiasi panggilan dihilangkan.

Teruskan ke model yang dikembangkan sendiri

Inisiasi sisi server: Saat memanggil API GenerateAIAgentCall atau StartAIAgentInstance, konfigurasikan parameter userData.
Inisiasi sisi klien: Saat memulai agen, atur properti userData.

Untuk informasi selengkapnya tentang cara mengambil userData kustom setelah agen dimulai, lihat Antarmuka standar LLM.

Kode contoh sisi klien

Android

ARTCAICallEngine.ARTCAICallConfig artcaiCallConfig = new ARTCAICallEngine.ARTCAICallConfig();  // Buat objek ARTCAICallConfig. Untuk informasi selengkapnya, lihat panduan pengguna. 
artcaiCallConfig.userData = "{\"xxx\": \"xxx\"}"  // Atur parameter bisnis untuk model.
...                                               // Atur parameter lain sesuai kebutuhan.
    
engine.init(artcaiCallConfig);                    // Inisialisasi engine.
engine.call(token);                               // Mulai panggilan.

iOS

let callConfig = ARTCAICallConfig()        // Buat objek ARTCAICallConfig. Untuk informasi selengkapnya, lihat panduan pengguna.
callConfig.userData = ["xxx": "xxxx"]      // Atur parameter bisnis untuk model.
...                                        // Atur parameter lain sesuai kebutuhan.
    
self.engine.call(config: callConfig)       // Mulai panggilan.

Web

const callConfig = {
  // Buat objek AICallConfig. Untuk informasi selengkapnya, lihat panduan pengguna.
};

callConfig.userData = JSON.stringify({xxx: 'xxx'})

 // Mulai panggilan.
engine.callWithConfig(callConfig);

Agen chatbot

Teruskan ke Model Studio

Sebelum memanggil API yang disediakan oleh AICallKit SDK untuk mengonfigurasi parameter bisnis, pastikan library AICallKit SDK telah diimpor dengan benar.
ARTCAIChatTemplateConfig adalah kelas yang digunakan untuk membuat konfigurasi templat percakapan pesan. Parameter bailianParam berupa string JSON yang berisi parameter bisnis yang akan diteruskan ke Alibaba Cloud Model Studio.
ARTCAIChatEngine adalah kelas engine untuk mengelola percakapan pesan. Gunakan metode setTemplateConfig untuk menerapkan templateConfig yang telah dikonfigurasi ke engine, sehingga memastikan parameter bisnis diteruskan selama interaksi berikutnya dengan Alibaba Cloud Model Studio.

Kode contoh

Android

// Parameter untuk pusat aplikasi Alibaba Cloud Model Studio. Ini adalah string JSON.
String bailianParam = "XXX";
// Buat parameter TemplateConfig untuk percakapan pesan.
ARTCAIChatEngine.ARTCAIChatTemplateConfig templateConfig= new ARTCAIChatEngine.ARTCAIChatTemplateConfig(bailianParam, "");
// Atur parameter konfigurasi untuk percakapan pesan. mChatEngine adalah objek ARTCAIChatEngine.               
mChatEngine.setTemplateConfig(templateConfig);

iOS

// Buat parameter TemplateConfig untuk percakapan pesan.
let templateConfig = ARTCAIChatTemplateConfig()
// Atur parameter untuk pusat aplikasi Alibaba Cloud Model Studio.
templateConfig.bailianAppParams = ["xxx":"xxxxx"]

// Atur templateConfig untuk engine percakapan pesan.              
self.engine.templateConfig = templateConfig

Web

const engine = new AIChatEngine();

// Buat parameter TemplateConfig untuk percakapan pesan.
const templateConfig = new AIChatTemplateConfig();
// Atur parameter untuk pusat aplikasi Alibaba Cloud Model Studio.
templateConfig.bailianAppParams = {
  xxx: 'xxxxx',
};

// Atur templateConfig untuk engine percakapan pesan.
engine.templateConfig = templateConfig;

Teruskan ke model besar yang dikembangkan sendiri

Untuk meneruskan parameter bisnis ke model besar yang dikembangkan sendiri, panggil metode setUserData dari AICallKit SDK. Sebelum memanggil metode ini, pastikan library SDK telah diimpor dengan benar.
Parameter userData berupa string JSON yang berisi parameter bisnis yang akan diteruskan ke model yang dikembangkan sendiri.
Gunakan metode mChatEngine.setUserData() untuk mengatur parameter bisnis pada engine.

Kode contoh

Android

// Parameter bisnis kustom (sebagai string JSON).
String userData = "XXX";
// Atur parameter pada engine (mChatEngine).
mChatEngine.setUserData(userData);

iOS

// Parameter bisnis kustom.
let userData = ["xxx":"xxxxx"]

// Atur userData pada engine chat.      
self.engine.userData = userData

Web

// Parameter bisnis kustom.
const userData = { xxx: 'xxxxx' };

// Atur userData pada engine chat.
engine.userData = userData;

Detail parameter Model Studio

Parameter	Tipe	Deskripsi	Contoh
biz_params	Object	Parameter kustom yang diteruskan ke aplikasi alur kerja atau aplikasi orkestrasi agen. Untuk detailnya, lihat Penerusan parameter aplikasi Catatan Alibaba Cloud meneruskan parameter terkait agen berikut. Anda tidak perlu mengonfigurasinya. instanceId: ID instans agen. channelId: ID channel RTC. Saat meneruskan parameter ke plugin Alibaba Cloud Model Studio, gunakan `user_defined_params`. Parameter ini tidak diperlukan untuk alur kerja Model Studio.	Plugin Alibaba Cloud Model Studio `{ "user_defined_params": { "city":"Hangzhou" } }` Alur kerja Alibaba Cloud Model Studio `{ "city":"Hangzhou" }`
user_prompt_params	Object	Variabel kustom yang didefinisikan dalam templat prompt. Jika Anda menambahkan variabel kustom ke aplikasi agen Model Studio dan mereferensikannya dalam prompt, teruskan pasangan kunci-nilai melalui bidang ini. Parameter ini berbeda dari `user_defined_params`, yang digunakan untuk parameter plugin.	{ "biz_params": { "user_prompt_params": { "user_Name": "Beijing", "company_Name": "Alibaba Cloud", "job_title": "Frontend Engineer" } } }
memory_id	String	Identifikasi unik untuk memori jangka panjang, digunakan untuk menyimpan dan mengingat kembali informasi historis.	YOUR_MEMORY_ID
image_list	Array	URL gambar yang memberikan konteks visual untuk operasi saat ini.	["https://example.com/images/example.jpg"]
rag_options	Object	Parameter Retrieval-Augmented Generation (RAG). Termasuk tetapi tidak terbatas pada pengambilan basis pengetahuan atau dokumen tertentu.
pipeline_ids	Array	ID basis pengetahuan. Jika ditentukan, semua dokumen dalam basis pengetahuan akan diambil.	["KnowledgeBaseID1", "KnowledgeBaseID2"]
file_ids	Array	ID dokumen tak terstruktur yang akan diproses.	["DocumentID1", "DocumentID2"]
metadata_filter	Object	Metadata dokumen tak terstruktur. Jika ditentukan, dokumen yang berisi metadata tersebut akan diambil.	{ "name": "Zhang San" }
structured_filter	Object	Nama kolom dan nilai yang digunakan untuk memfilter dokumen terstruktur.	{ "key1": "value1", "key2": "value2" }
tags	Array	Tag dokumen tak terstruktur. Jika ditentukan, dokumen dengan tag yang cocok akan diambil.	["Tag1", "Tag2"]

Untuk informasi selengkapnya, lihat Referensi API DashScope untuk Alur Kerja dan Aplikasi Agen Versi Lama. Contoh:

Teruskan ke plugin Alibaba Cloud Model Studio

aliyunBailianParamsJson = {
    "biz_params": {
        "user_defined_params": 
        {
            "your_plugin_id":
            {
                "article_index": 2
            }
        },
        "user_prompt_params": {
            "user_Name": "Beijing",  # Ganti dengan nilai variabel kustom yang direferensikan dalam prompt
            "company_Name": "Alibaba Cloud",
            "job_title": "Frontend Engineer"
        }
    },
    "memory_id": "your_memory_id",
    "image_list": [
        "https://your_image_url"  # Contoh URL gambar
    ],
    "rag_options": {
        "pipeline_ids": [
            "your_id",  # Ganti dengan ID basis pengetahuan sebenarnya
        ],
        "file_ids": [
            "DocumentID1",  # Ganti dengan ID dokumen sebenarnya
            "DocumentID2"   # Ganti dengan ID dokumen sebenarnya
        ],
        "metadata_filter": {
            "name": "John Doe"  # Ganti dengan kondisi filter metadata yang diperlukan
        },
        "structured_filter": {
            "key1": "value1",  # Contoh kondisi filter
            "key2": "value2"   # Contoh kondisi filter
        },
        "tags": [
            "Tag1",  # Ganti dengan tag sebenarnya
            "Tag2"   # Ganti dengan tag sebenarnya
        ]
    }
}
bailianParams = json.dumps(aliyunBailianParamsJson)

Teruskan ke alur kerja Alibaba Cloud Model Studio


aliyunBailianParamsJson = {
    "biz_params": {
        "key1": "value1"
    },
    "memory_id": "your_memory_id",
    "image_list": [
        "https://your_image_url"  # Contoh URL gambar
    ],
    "rag_options": {
        "pipeline_ids": [
            "your_id",  # Ganti dengan ID basis pengetahuan sebenarnya
        ],
        "file_ids": [
            "DocumentID1",  # Ganti dengan ID dokumen sebenarnya
            "DocumentID2"  # Ganti dengan ID dokumen sebenarnya
        ],
        "metadata_filter": {
            "name": "John Doe"  # Ganti dengan kondisi filter metadata yang diperlukan
        },
        "structured_filter": {
            "key1": "value1",  # Contoh kondisi filter
            "key2": "value2"  # Contoh kondisi filter
        },
        "tags": [
            "Tag1",  # Ganti dengan tag sebenarnya
            "Tag2"  # Ganti dengan tag sebenarnya
        ]
    }
}
bailianParams = json.dumps(aliyunBailianParamsJson)