Model Kustom - OpenSearch

OpenSearch Vector Search Edition memungkinkan Anda untuk memanggil model kustom. Anda dapat membuat model kustom di tab Model Kustom dan melakukan operasi manajemen seperti melihat, mengedit, men-debug, menonaktifkan, atau memulihkan model.

Buat Model

Di panel navigasi sisi kiri halaman detail instance OpenSearch Anda, pilih Model Management > Model. Pada tab Custom Models dari halaman yang muncul, klik Create Model. Di panel Buat Model Kustom, konfigurasikan parameter berdasarkan format model kustom.

Format Model Kustom

{
  "modelName": "custom_model",
  "modelType": "text_embedding",
  "dimension": 1536,
  "url": "http://xxx/api/v2/services/embeddings",
  "method": "POST"
  "request": {
    "header": {
      "Authorization": "fj42091fjlgnlsvu023nva",
      "Content-Type": "application/json"
    },
    "urlParams": {
      "build": {},
      "search": {}
    },
    "requestBody": "{\"input\": [\"%{input}\"],\"input_type\": \"${input_type}\"}",
    "parameters": {
      "build": {
        "input_type": "document"
      },
      "search": {
        "input_type": "query"
      }
    }
  },
  "response": {
    "embeddings": "$.result.embeddings[*].embedding"
  }
}

Parameter

Parameter	Deskripsi
modelName	Nama model.
modelType	Tipe model. Nilai valid: text_embedding: model teks padat text_sparse_embedding: model teks jarang image_embedding: model vektor gambar image_analyze: model analisis konten gambar
dimension	Jumlah dimensi model. Anda perlu mengonfigurasi parameter ini jika Anda menetapkan parameter modelType ke text_embedding atau image_embedding.
url	Titik akhir layanan model.
method	Metode HTTP yang digunakan untuk mengakses layanan model. Nilai valid: PUT dan POST.
request	Metode permintaan.
request.header	Header HTTP yang digunakan untuk mengakses layanan model, yang diteruskan ke layanan model tanpa pemrosesan apa pun.
request.urlParams	Parameter dalam URL. Beberapa layanan model perlu melewati parameter melalui URL, seperti ?abc=123.
request.urlParams.build	Parameter yang dilewatkan saat pembuatan indeks.
request.urlParams.search	Parameter yang dilewatkan selama query.
request.requestBody	String template badan permintaan. Format variabel template: %{Nama Parameter}. Contoh: { "input": "%{input}" }. Variabel bawaan: %{input}: teks input. %{modal}: modal. Jika model multimodal digunakan, Anda dapat menentukan modal yang akan digunakan dalam query.
request.parameters	Jika Anda ingin membedakan antara parameter dalam fase pembuatan dan parameter dalam fase pencarian di badan permintaan, Anda dapat mendefinisikannya dalam parameter ini. build: parameter dalam fase pembuatan indeks. search: parameter dalam fase pencarian.
response	Format yang digunakan untuk mengurai hasil. Jalur JSON digunakan.

Deskripsi Jalur JSON

Operator

Operator	Deskripsi
$	Elemen root. Jalur harus dimulai dengan $.
*	Wildcard yang menunjukkan nilai apa saja. Anda dapat menggunakan wildcard untuk menggantikan nama atau angka.
.<name>	Digunakan untuk mengakses atribut objek.
[<number>]	Digunakan untuk mengakses elemen subskrip array.

Contoh

{
  "store": {
    "books": [
      {
        "title": "java",
        "price": 56
      },
      {
        "title": "c++",
        "price": 99
      }
    ]
  }
}

Ekstrak judul semua buku
- jalur json: $.store.books[*].title
- Hasil: ["java", "c++"]
Ekstrak judul buku pertama
- jalur json: $.store.books[0].title
- Hasil: ["java"]

Kelola Model

Debug model
Pada tab Custom Models dari halaman Models, temukan model yang ingin Anda kelola dan klik Debug di kolom Tindakan untuk menguji efek model.
Nonaktifkan model
Setelah model dinonaktifkan, tabel yang memanggil model tidak lagi memproses data terkait dan query. Lakukan dengan hati-hati.
Hapus model
Hanya model yang dinonaktifkan yang dapat dihapus.
Pulihkan model
Anda dapat memulihkan model yang dinonaktifkan.

Panggil Model

Saat Anda mengonfigurasi tabel, klik Configure untuk bidang yang ingin Anda pra-proses. Anda dapat memilih model kustom yang telah dibuat dari model yang ditampilkan.