Setiap layanan dan eksperimen di PAI-Rec harus dikaitkan dengan skenario rekomendasi. Skenario tersebut memetakan penempatan (placement) pada platform Anda ke satu set lab, lapisan eksperimen, kelompok eksperimen, dan eksperimen.
Skenario rekomendasi
Skenario rekomendasi memetakan penempatan tertentu pada platform Anda—seperti rekomendasi waterfall di halaman utama, saran "Anda mungkin juga menyukai" di keranjang belanja, atau item terkait pada halaman detail produk—ke satu set layanan dan eksperimen rekomendasi.
Berikan nama setiap skenario berdasarkan lokasi halamannya agar mudah dikenali. Misalnya, nama "rekomendasi waterfall di halaman utama" menggambarkan pola UI ("waterfall") dan penempatannya ("halaman utama").
Traffic Code
Bidang Traffic Code mengontrol pembagian permintaan rekomendasi di antara berbagai sistem. Gunakan fitur ini saat menjalankan PAI-Rec bersama sistem rekomendasi yang dikelola sendiri atau pihak ketiga.
| Nilai Kode Lalu Lintas | Tujuan Lalu Lintas |
|---|---|
PAI-REC | Sistem PAI-Rec |
selfhold | Sistem rekomendasi yang Anda kelola sendiri |
thirdparty | Sistem rekomendasi pihak ketiga |
Sebagai contoh, dalam skenario HomePageRec, traffic dialihkan ke PAI-Rec secara default. Untuk migrasi bertahap, mulailah dengan mengarahkan 10%–20% traffic skenario tersebut ke PAI-Rec. Setelah PAI-Rec mencapai hasil yang diharapkan, tingkatkan proporsinya.
Gambar berikut menunjukkan alokasi traffic untuk enam pengguna. Pengguna a dan b menerima hasil dari sistem yang dikelola sendiri (selfhold), pengguna c dan d dari PAI-Rec (PAI-REC), serta pengguna e dan f dari sistem pihak ketiga (thirdparty).

Lab dan lapisan eksperimen
PAI-Rec mengorganisasi Pengujian A/B menggunakan hierarki empat tingkat:
Lab
└── Lapisan eksperimen
└── Kelompok eksperimen
└── EksperimenLab
Lab adalah kumpulan traffic. PAI-Rec mengarahkan permintaan rekomendasi masuk ke lab sebelum pencocokan eksperimen dilakukan.
Setiap skenario memerlukan minimal satu base lab. Traffic pertama-tama dicocokkan ke lab non-base; jika tidak ada lab non-base yang cocok, permintaan akan dialihkan ke base lab. Jika hanya terdapat satu lab, lab tersebut harus ditetapkan sebagai base lab untuk fallback. Konfigurasikan base lab dengan logika recall dan ranking yang sederhana agar tetap stabil saat terjadi lonjakan lalu lintas. Base lab juga dapat diimplementasikan dengan logika fallback berbasis popularitas atau acak.
Lab non-base berisi logika recall dan ranking utama yang lebih kompleks. Buat beberapa lab non-base jika perlu menguji strategi algoritma berbeda secara paralel.
Tabel berikut menunjukkan bidang konfigurasi untuk base lab.
| Bidang | Deskripsi |
|---|---|
| Lab Name | Nama kustom untuk lab. |
| Description | Deskripsi detail tentang lab tersebut. |
| Lab Type | Base Lab (wajib) atau Non-base Lab (opsional). |
| Runtime Environment | Lingkungan runtime mesin rekomendasi. Nilai yang valid: Daily, Staging, Production. |
| Bucketing Method | Cara PAI-Rec menetapkan pengguna ke bucket. Lihat Metode bucketing di bawah. |
| Buckets | Jumlah total bucket dalam lab ini (misalnya, 100). |
| Traffic Allocation | Nomor bucket yang ditetapkan untuk lab ini. Rentang valid: 0–99. |
| Layering | Lapisan eksperimen dalam lab ini. Nilai umum: recall, filter, coarse_rank, rank. |
| Test Users | Pengguna yang traffic-nya langsung diarahkan ke lab ini, melewati pencocokan bucket. |
Pengguna Uji mendukung dua metode input:
Manually Enter: Masukkan satu atau beberapa ID pengguna yang dipisahkan koma.
User Group ID: Pilih grup pengguna yang telah dibuat di halaman Manajemen Grup Pengguna.
Metode bucketing
PAI-Rec mendukung tiga cara untuk menetapkan pengguna ke bucket:
| Metode | Cara kerja |
|---|---|
| UID-based Bucketing | Menetapkan pengguna berdasarkan digit terakhir UID mereka. |
| Hashed UID-based Bucketing | Menetapkan pengguna berdasarkan nilai hash UID mereka. |
| Condition-based Bucketing | Menetapkan pengguna berdasarkan ekspresi pasangan kunci-nilai, seperti gender=man. |
Lapisan eksperimen
Lapisan eksperimen adalah pengelompokan logis dalam suatu lab. Setiap lab dapat memiliki beberapa lapisan eksperimen. Nama lapisan umum meliputi recall, filter, coarse_rank, dan rank.
Kelompok eksperimen dan eksperimen
Kelompok eksperimen
Kelompok eksperimen adalah subdivisi dari lapisan eksperimen. Buat beberapa kelompok eksperimen dalam satu lapisan ketika beberapa insinyur algoritma perlu menjalankan eksperimen recall atau ranking secara independen.
Eksperimen
Eksperimen adalah variasi algoritma atau konfigurasi tunggal dalam suatu kelompok eksperimen.
Satu kelompok eksperimen biasanya berisi beberapa eksperimen yang berjalan secara simultan. Sebagai contoh, dalam konfigurasi di bawah, dssm sedang diuji dengan proporsi traffic-nya diatur ke 0% dan statusnya diatur ke online, yang membantu memperoleh efek rekomendasi menggunakan daftar putih yang dikonfigurasi.
Kelompok eksperimen ini bernama Recall Group, di mana swing dan etrec masing-masing memiliki alokasi traffic 50%. etrec merupakan eksperimen garis dasar, sedangkan swing dan dssm adalah eksperimen reguler.