Selesaikan seluruh alur kerja secara cepat, mulai dari mengunggah data mentah hingga pengambilan semantik berbasis vektor. Alur kerja ini terdiri dari tiga langkah inti: prasyarat, membuat DataPipeline, dan melihat hasil yang sedang berjalan.
Sebelum memulai, pastikan bahwa:
Anda telah membuat bucket dan mengunggah data mentah yang akan divectorisasi ke bucket tersebut. Jika Anda hanya memproses data inkremental, rencanakan bucket dan path penyimpanan terlebih dahulu. Kami menyarankan Anda menetapkan awalan objek yang seragam (misalnya
source/images/) untuk file yang akan divectorisasi, sehingga cakupan pemrosesan dapat ditentukan secara tepat saat membuat DataPipeline. Jika Anda ingin menulis Object Tag atau User Metadata sebagai metadata vektor, tetapkan tag atau user metadata yang sesuai untuk file tersebut saat mengunggahnya.Anda telah membuat indeks vektor di vector bucket, dan dimensi indeks tersebut sama dengan dimensi output dari model vektor Model Studio yang dipilih. Vector bucket harus berada di wilayah yang sama dengan bucket sumber. Kapasitas maksimum satu indeks vektor adalah 2 miliar baris. Rencanakan jumlah indeks terlebih dahulu berdasarkan perkiraan jumlah file yang akan diproses.
Anda telah mengaktifkan Alibaba Cloud Model Studio dan memperoleh kunci API (yang diawali dengan
sk-). Pastikan kuota pembatasan kecepatan (RPM/TPM) kunci API Model Studio Anda memenuhi kecepatan pemrosesan yang diharapkan. Untuk meningkatkan throughput, ajukan permintaan kuota RPM/TPM yang lebih tinggi melalui Konsol Model Studio atau hubungi technical support untuk meningkatkan QPS pemrosesan.Jika Anda menggunakan RAM user (bukan Akun Alibaba Cloud) untuk mengoperasikan AI VibeFlow, Anda harus menyelesaikan konfigurasi izin berikut terlebih dahulu.
Fitur ini saat ini hanya tersedia untuk pengguna dalam daftar putih. Untuk menggunakannya, hubungi technical support untuk mengajukan permohonan.
Langkah 1: Buat DataPipeline
DataPipeline adalah objek inti dalam AI VibeFlow yang mendefinisikan aturan lengkap untuk membaca data mentah dari bucket sumber, memanggil model Model Studio untuk vektorisasi, dan menulis vektor ke vector bucket.
Masuk ke Konsol OSS.
Pada panel navigasi kiri, klik AI VibeFlow.
Di halaman AI VibeFlow, klik Create DataPipeline.
Ikuti panduan wizard untuk menyelesaikan konfigurasi berikut:
Pengaturan dasar
Rule Name: maksimal 64 karakter. Huruf besar dan kecil, angka, tanda hubung (-), dan garis bawah (_) didukung. Nama harus unik dalam akun dan wilayah yang sama.
Rule Description: opsional, maksimal 200 karakter.
Pengaturan data sumber
Source Bucket: pilih wilayah terlebih dahulu, lalu pilih bucket tujuan.
Source File Scope: All Files memproses semua objek dalam bucket; Specified Object Name Prefix hanya memproses objek yang sesuai dengan awalan tersebut.
Source File Types: Anda dapat memilih beberapa jenis dari Text, Image, dan Video. Pilihan ini harus sesuai dengan kemampuan model vektor yang akan digunakan nanti.
Processing Mode: Process only existing initial data (file yang sudah ada saat pipeline dibuat); Process only subsequent incremental data (file yang baru diunggah akan memicu pemrosesan secara otomatis); Process both existing and subsequent incremental data.
Pengaturan vektorisasi
Vector Model Source: saat ini hanya Alibaba Cloud Model Studio yang didukung.
API KEY: masukkan kunci API Model Studio, yang diawali dengan
sk-.Vector Model: model teks seperti
text-embedding-v4(default) dantext-embedding-v3; model multimodal sepertitongyi-embedding-vision-plusdantongyi-embedding-vision-flash. Pastikan dimensi output model sama dengan dimensi indeks vektor.Video Frame Capture Frequency: hanya dapat dikonfigurasi untuk model multimodal. Rentang nilainya (0, 1], dengan nilai default 1,0. Nilai yang lebih kecil menghasilkan jumlah frame yang lebih sedikit.
Cascade Deletion Settings: Retain the corresponding vector data when the source object is deleted (default); Delete the corresponding vector data when the source object is deleted.
Pengaturan data tujuan
Vector Bucket: harus berada di wilayah yang sama dengan bucket sumber.
Vector Index: pilih indeks target dari daftar indeks pada vector bucket yang dipilih. Dimensi indeks harus sama dengan dimensi output model vektor.
Vector Key Naming Rule: opsional. Jika Anda memasukkan awalan, formatnya adalah
{prefix}/{ObjectKey}. Jika dibiarkan kosong, kunci vektor akan sama dengan ObjectKey.Use ObjectTag as metadata: opsional, maksimal 10 kunci, digunakan untuk filtering skalar selama pengambilan.
Use UserMeta as metadata: opsional, maksimal 10 kunci. Sistem secara otomatis menambahkan awalan
X-OSS-META-.
Penanganan pengecualian dan otorisasi
Exception Handling Method: Skip the exception and continue with subsequent processing tasks; Skip the exception and continue with subsequent processing tasks, and obtain the exception details (Anda harus mengonfigurasi bucket dan awalan untuk menerima pesan error; bucket penerima harus berada di wilayah yang sama dengan bucket sumber dan tidak boleh merupakan bucket sumber itu sendiri); Terminate subsequent tasks immediately when an exception occurs.
Authorized Role: pilih Create Role untuk secara otomatis membuat dan mengikat
oss-embedding-{uuid}.
Konfirmasi pengaturan: periksa semua pengaturan dan klik OK setelah Anda memastikan semuanya benar.
DataPipeline tidak dapat diubah setelah dibuat. Untuk menyesuaikannya, hapus dan buat yang baru.
Langkah 2: Lihat status berjalan DataPipeline
Setelah DataPipeline dibuat, statusnya secara otomatis berubah menjadi "Task Preparing", lalu berubah menjadi "Task Running".
Di daftar aturan pada halaman AI VibeFlow, Anda dapat melihat informasi seperti nama aturan, status, dan waktu pembuatan setiap pipeline. Klik nama aturan atau "Details" untuk melihat konfigurasi lengkap dan statistik berjalan.
Langkah 3: Kelola DataPipeline (opsional)
Setelah DataPipeline dibuat, Anda dapat melakukan operasi manajemen berikut sesuai kebutuhan.
Pause a DataPipeline: pipeline yang berstatus Running dapat dijeda secara manual. Setelah dijeda, file yang belum diproses tetap dalam status menunggu, dan data vektor yang telah ditulis tidak terpengaruh.
Restart a DataPipeline: pipeline yang dijeda dapat dijalankan ulang untuk melanjutkan pemrosesan. Jika pipeline dijeda secara otomatis karena indeks penuh, buat indeks baru terlebih dahulu, lalu buat pipeline baru yang mengarah ke indeks tersebut.
Delete a DataPipeline: setelah pipeline dihapus, OSS menghentikan vektorisasi, dan data vektor yang telah ditulis tidak dihapus. Jeda pipeline yang sedang berjalan sebelum menghapusnya. Penghapusan tidak dapat dikembalikan.
View vectorization error messages: jika Anda memilih "Skip and log error messages" saat membuat pipeline, ErrorCode, ErrorMessage, dan Model Studio RequestId dari permintaan yang gagal ditulis sebagai objek ke bucket yang ditentukan. Format path-nya adalah
{ErrorBucket}/{ErrorPrefix}/{DataPipelineName}/{ObjectKey}-{millisecond timestamp}.log.
Langkah 4: Lakukan pengambilan semantik berbasis vektor
Setelah vektorisasi selesai, Anda dapat melakukan pengambilan semantik pada data yang telah ditulis ke vector bucket untuk membangun aplikasi RAG atau layanan pencarian konten serupa. Untuk operasi pengambilan spesifik, lihat OSS Vectors getting started.