Meneruskan informasi pengguna ke Model Studio atau model buatan sendiri - Intelligent Media Services

Topik ini menjelaskan cara melakukan pass parameter bisnis ke Alibaba Cloud Model Studio atau model besar yang dikembangkan sendiri.

Ikhtisar fungsi

Pass-through parameter bisnis adalah mekanisme teknis untuk mengirimkan data penting terkait bisnis melalui berbagai komponen dalam sistem terdistribusi atau rantai pemanggilan layanan. Mekanisme ini memastikan bahwa data—seperti konteks pengguna, penanda lingkungan, ID pengguna yang diteruskan (pass-through user ID), dan informasi keanggotaan—ditransmisikan secara utuh, konsisten, dan aman. Tujuannya adalah menjaga integritas dan observabilitas logika bisnis serta mencegah manipulasi, kehilangan, atau fragmentasi data selama transmisi.

Skenario

Dalam aplikasi agen, Anda dapat meneruskan parameter ke model besar Alibaba Cloud Model Studio atau model besar yang dikembangkan sendiri sesuai kebutuhan. Misalnya, dalam skenario layanan pelanggan cerdas, parameter bisnis seperti jenis kueri pengguna, sektor bisnis terkait, dan riwayat pertanyaan sebelumnya dapat diteruskan ke model. Dengan informasi ini, model dapat memahami konteks permasalahan pengguna dan memberikan respons yang lebih akurat serta relevan, sehingga meningkatkan efisiensi layanan pelanggan dan kepuasan pengguna. Sebagai contoh, dalam layanan pelanggan cerdas E-dagang, penerusan informasi produk yang dibeli memungkinkan model besar untuk segera menangani masalah terkait penggunaan produk dan dukungan purna jual.

Implementasi

Agen audio dan video

Pass parameter ke model besar Alibaba Cloud Model Studio

Startup sisi server: Saat memanggil API GenerateAIAgentCall atau StartAIAgentInstance, konfigurasikan parameter AIAgentConfig. Untuk informasi selengkapnya tentang parameter AIAgentConfig, lihat AIAgentConfig.
Startup sisi klien: Pada parameter ARTCAICallConfig.agentConfig.llmConfig, konfigurasikan parameter BailianAppParams untuk meneruskan parameter ke Alibaba Cloud Model Studio. Untuk informasi selengkapnya tentang parameter BailianAppParams, lihat Detail parameter Model Studio.

Kode contoh sisi klien

Android

// Buat dan konfigurasikan objek ARTCAICallConfig.
ARTCAICallEngine.ARTCAICallConfig artcaiCallConfig = new ARTCAICallEngine.ARTCAICallConfig();
 
// Konfigurasikan parameter bailianAppParams pada agentConfig. Ini adalah string JSON.
artcaiCallConfig.agentConfig.llmConfig.bailianAppParams = "XXX";

// Proses inisiasi panggilan diabaikan.

iOS

// Konfigurasikan parameter bailianAppParams pada agentConfig.
let agentConfig = ARTCAICallAgentConfig()         // Buat objek ARTCAICallAgentConfig.
agentConfig.llmConfig.bailianAppParams = ["xxx", "xxxx"]
// Proses inisiasi panggilan diabaikan.
...

Web

// Konfigurasikan parameter aiAgentBailianAppParams pada agentConfig.
const agentConfig = new AICallAgentConfig(); // Buat objek ARTCAICallAgentConfig.
agentConfig.llmConfig.bailianAppParams = {
  // Konfigurasikan parameter bailianAppParams.
};

// Proses inisiasi panggilan diabaikan.

Pass parameter ke model besar yang dikembangkan sendiri

Startup sisi server: Saat memanggil API GenerateAIAgentCall atau StartAIAgentInstance, konfigurasikan parameter userData.
Startup sisi klien: Saat memulai agen, atur properti userData.

Untuk informasi selengkapnya tentang cara mengambil userData kustom yang telah Anda teruskan setelah agen dimulai, lihat API Standar untuk LLM yang Dikembangkan Sendiri.

Kode contoh sisi klien

Android

ARTCAICallEngine.ARTCAICallConfig artcaiCallConfig = new ARTCAICallEngine.ARTCAICallConfig();  // Buat objek ARTCAICallConfig. Untuk informasi selengkapnya, lihat panduan pengguna. 
artcaiCallConfig.userData = "{\"xxx\": \"xxx\"}"  // Atur parameter bisnis untuk model.
...                                               // Atur parameter lain sesuai kebutuhan.
    
engine.init(artcaiCallConfig);                    // Inisialisasi engine.
engine.call(token);                               // Mulai panggilan.

iOS

let callConfig = ARTCAICallConfig()        // Buat objek ARTCAICallConfig. Untuk informasi selengkapnya, lihat panduan pengguna.
callConfig.userData = ["xxx": "xxxx"]      // Atur parameter bisnis untuk model.
...                                        // Atur parameter lain sesuai kebutuhan.
    
self.engine.call(config: callConfig)       // Mulai panggilan.

Web

const callConfig = {
  // Buat objek AICallConfig. Untuk informasi selengkapnya, lihat panduan pengguna.
};

callConfig.userData = JSON.stringify({xxx: 'xxx'})

 // Mulai panggilan.
engine.callWithConfig(callConfig);

Agen percakapan berbasis pesan

Pass parameter ke model besar Alibaba Cloud Model Studio

Sebelum memanggil API yang disediakan oleh library AICallKit SDK untuk mengonfigurasi parameter bisnis, pastikan library AICallKit SDK telah diimpor dengan benar.
ARTCAIChatTemplateConfig adalah kelas yang digunakan untuk membuat konfigurasi templat percakapan berbasis pesan. Parameter bailianParam adalah string JSON yang berisi parameter bisnis yang akan diteruskan ke model Alibaba Cloud Model Studio.
ARTCAIChatEngine adalah kelas engine untuk mengelola percakapan berbasis pesan. Gunakan metode setTemplateConfig untuk menerapkan templateConfig yang telah dikonfigurasi ke engine, sehingga memastikan parameter bisnis diteruskan selama interaksi selanjutnya dengan model Alibaba Cloud Model Studio.

Kode contoh

Android

// Parameter untuk pusat aplikasi Alibaba Cloud Model Studio. Ini adalah string JSON.
String bailianParam = "XXX";
// Buat parameter TemplateConfig untuk percakapan berbasis pesan.
ARTCAIChatEngine.ARTCAIChatTemplateConfig templateConfig= new ARTCAIChatEngine.ARTCAIChatTemplateConfig(bailianParam, "");
// Atur parameter konfigurasi untuk percakapan berbasis pesan. mChatEngine adalah objek ARTCAIChatEngine.               
mChatEngine.setTemplateConfig(templateConfig);

iOS

// Buat parameter TemplateConfig untuk percakapan berbasis pesan.
let templateConfig = ARTCAIChatTemplateConfig()
// Atur parameter untuk pusat aplikasi Alibaba Cloud Model Studio.
templateConfig.bailianAppParams = ["xxx":"xxxxx"]

// Atur templateConfig untuk engine percakapan berbasis pesan.              
self.engine.templateConfig = templateConfig

Web

const engine = new AIChatEngine();

// Buat parameter TemplateConfig untuk percakapan berbasis pesan.
const templateConfig = new AIChatTemplateConfig();
// Atur parameter untuk pusat aplikasi Alibaba Cloud Model Studio.
templateConfig.bailianAppParams = {
  xxx: 'xxxxx',
};

// Atur templateConfig untuk engine percakapan berbasis pesan.
engine.templateConfig = templateConfig;

Pass parameter ke model besar yang dikembangkan sendiri

Untuk meneruskan parameter bisnis ke model besar yang dikembangkan sendiri, panggil metode setUserData dari AICallKit SDK. Pastikan library SDK telah diimpor dengan benar sebelum memanggil metode ini.
Parameter userData adalah string JSON yang berisi parameter bisnis yang akan diteruskan ke model besar yang dikembangkan sendiri.
Gunakan metode mChatEngine.setUserData() untuk mengatur parameter bisnis pada engine percakapan berbasis pesan, sehingga memungkinkan pass-through parameter tersebut.

Kode contoh

Android

// Parameter bisnis yang dikembangkan sendiri. Ini adalah string JSON.
String userData = "XXX";
// Atur parameter konfigurasi untuk percakapan berbasis pesan. mChatEngine adalah objek ARTCAIChatEngine.
mChatEngine.setUserData(userData);

iOS

// Atur parameter bisnis yang dikembangkan sendiri.
let userData = ["xxx":"xxxxx"]

// Atur userData untuk engine percakapan berbasis pesan.              
self.engine.userData = userData

Web

// Atur parameter bisnis yang dikembangkan sendiri.
const userData = { xxx: 'xxxxx' };

// Atur userData untuk engine percakapan berbasis pesan.
engine.userData = userData;

Detail parameter Model Studio

Nama parameter	Jenis parameter	Deskripsi	Contoh parameter
biz_params	Object	Bidang pass-through untuk parameter kustom dalam aplikasi alur kerja dan aplikasi orkestrasi agen. Untuk informasi selengkapnya tentang penerusan parameter di Alibaba Cloud Model Studio, lihat Pass parameter plugin melalui API. Catatan Alibaba Cloud meneruskan parameter tambahan terkait instans agen. Anda tidak perlu meneruskannya lagi: instanceId: ID instans agen Real-time Conversational AI. channelId: Nomor channel RTC untuk Real-time Conversational AI. Saat meneruskan parameter ke plugin Alibaba Cloud Model Studio, gunakan `user_defined_params` untuk meneruskan parameter tersebut. Parameter ini tidak diperlukan untuk alur kerja Alibaba Cloud Model Studio.	Plugin Alibaba Cloud Model Studio `{ "user_defined_params": { "city":"Hangzhou" } }` Alur kerja Alibaba Cloud Model Studio `{ "city":"Hangzhou" }`
memory_id	String	Identifier unik untuk memori jangka panjang. Parameter ini menyimpan dan mengambil informasi historis.	YOUR_MEMORY_ID
image_list	Array	Daftar URL citra terkait. Memberikan informasi visual terkait operasi saat ini.	["https://example.com/images/example.jpg"]
rag_options	Object	Konfigurasi pengambilan basis pengetahuan. Menentukan opsi bagi agen untuk mengambil informasi dari basis pengetahuan.
pipeline_ids	Array	ID basis pengetahuan. Digunakan untuk mengidentifikasi dan memanggil basis pengetahuan tertentu.	["KnowledgeBaseID1", "KnowledgeBaseID2"]
file_ids	Array	ID dokumen tak terstruktur. Menentukan dokumen tak terstruktur yang akan diproses.	["DocumentID1", "DocumentID2"]
metadata_filter	Object	Metadata untuk dokumen tak terstruktur. Digunakan untuk memfilter dan menemukan dokumen tertentu.	{ "name": "Zhang San" }
structured_filter	Object	Nama kolom dan nilai yang sesuai untuk memfilter dokumen terstruktur.	{ "key1": "value1", "key2": "value2" }
tags	Array	Tag untuk dokumen tak terstruktur. Digunakan untuk klasifikasi dan pengambilan.	["Tag1", "Tag2"]

Untuk informasi selengkapnya, lihat Aplikasi Alibaba Cloud Model Studio. Berikut adalah contoh parameter:

Pass parameter ke plugin Alibaba Cloud Model Studio

aliyunBailianParamsJson = {
    "biz_params": {
        "user_defined_params": 
        {
            "your_plugin_id":
            {
                "article_index": 2
            }
        }
    },
    "memory_id": "your_memory_id",
    "image_list": [
        "https://your_image_url"  # Contoh URL citra
    ],
    "rag_options": {
        "pipeline_ids": [
            "your_id",  # Ganti dengan ID basis pengetahuan yang sebenarnya
        ],
        "file_ids": [
            "DocumentID1",  # Ganti dengan ID dokumen yang sebenarnya
            "DocumentID2"   # Ganti dengan ID dokumen yang sebenarnya
        ],
        "metadata_filter": {
            "name": "John Doe"  # Ganti dengan kondisi filter metadata yang diperlukan
        },
        "structured_filter": {
            "key1": "value1",  # Contoh kondisi filter
            "key2": "value2"   # Contoh kondisi filter
        },
        "tags": [
            "Tag1",  # Ganti dengan tag yang sebenarnya
            "Tag2"   # Ganti dengan tag yang sebenarnya
        ]
    }
}
bailianParams = json.dumps(aliyunBailianParamsJson)

Pass parameter ke alur kerja Alibaba Cloud Model Studio


aliyunBailianParamsJson = {
    "biz_params": {
        "key1": "value1"
    },
    "memory_id": "your_memory_id",
    "image_list": [
        "https://your_image_url"  # Contoh URL citra
    ],
    "rag_options": {
        "pipeline_ids": [
            "your_id",  # Ganti dengan ID basis pengetahuan yang sebenarnya
        ],
        "file_ids": [
            "DocumentID1",  # Ganti dengan ID dokumen yang sebenarnya
            "DocumentID2"  # Ganti dengan ID dokumen yang sebenarnya
        ],
        "metadata_filter": {
            "name": "John Doe"  # Ganti dengan kondisi filter metadata yang diperlukan
        },
        "structured_filter": {
            "key1": "value1",  # Contoh kondisi filter
            "key2": "value2"  # Contoh kondisi filter
        },
        "tags": [
            "Tag1",  # Ganti dengan tag yang sebenarnya
            "Tag2"  # Ganti dengan tag yang sebenarnya
        ]
    }
}
bailianParams = json.dumps(aliyunBailianParamsJson)