Akses layanan di instans melalui Internet - Platform For AI

Saat men-deploy layanan seperti API model atau WebUI di instans DSW, Anda mungkin ingin mengaksesnya langsung dari browser, membagikannya dengan rekan kerja untuk pengujian tanpa login, atau memanggilnya dari jaringan eksternal. DSW menyediakan fitur custom service untuk mengonfigurasi akses jaringan publik yang mengekspos layanan Anda ke internet. Catatan: Fitur ini ditujukan untuk fase pengembangan dan pengujian.

Catatan penting

Dikenakan biaya tambahan: Mengonfigurasi akses jaringan publik memerlukan NAT Gateway dan Elastic IP Address (EIP). Keduanya merupakan produk cloud terpisah dengan penagihan masing-masing.
Tipe instans yang didukung: Fitur ini mendukung instans yang menggunakan kelompok sumber daya publik (spesifikasi sumber daya yang tidak diawali dengan ecs.ebm) dan instans Lingjun AI Computing. Anda dapat mengonfigurasi maksimal lima custom service untuk setiap instans.
Gangguan layanan saat instans dihentikan: Saat instans DSW dihentikan, layanan internal dan akses jaringan publiknya juga menjadi tidak tersedia.
EAS direkomendasikan untuk lingkungan produksi: Untuk layanan yang stabil, highly available, dan skalabilitas elastis di lingkungan produksi, kami merekomendasikan men-deploy model Anda ke PAI-EAS.

Cara kerja

Untuk membuat layanan di instans DSW—seperti API yang berjalan pada port 9000—dapat diakses dari jaringan publik, sumber daya berikut harus bekerja sama:

Elastic IP Address (EIP): Menyediakan alamat IP publik tetap, seperti 121.40.**.**. Ini adalah titik masuk untuk akses jaringan publik.
NAT Gateway: Berlokasi di virtual private cloud (VPC) Anda, memetakan permintaan publik (EIP:port) ke instans DSW privat (IP privat:port).
Security group: Bertindak sebagai firewall untuk instans DSW. Anda harus secara eksplisit menambahkan aturan untuk mengizinkan traffic publik mengakses port spesifik tempat layanan Anda mendengarkan, seperti 9000. Ini merupakan langkah kritis agar akses berhasil.

Alur inti: Pengguna publik (browser/tool) -> EIP:port -> NAT Gateway -> vSwitch -> Pemeriksaan aturan security group -> IP privat instans DSW:port -> Layanan Anda

Penagihan

Penagihan untuk NAT Gateway dan EIP dimulai segera setelah keduanya dibuat.
Bahkan jika instans DSW dihentikan, NAT Gateway dan EIP akan terus dikenai biaya selama belum dihapus.
Instans DSW itu sendiri ditagih berdasarkan statusnya yang sedang berjalan. Instans pay-as-you-go tidak ditagih setelah dihentikan.

Konfigurasi akses jaringan publik

Konfigurasi akses jaringan publik saat membuat instans DSW

Buat instans DSW dan konfigurasikan parameter jaringan utama berikut.
- Pada bagian Network Information, pilih VPC dan security group. Untuk membuat VPC, vSwitch, atau security group, lihat Buat VPC dan vSwitch dan Kelola security group. Catatan bahwa VPC dan security group harus berada di wilayah yang sama dengan instans DSW.
  Buat VPC, vSwitch, dan security group
  Pada halaman konfigurasi DSW, klik Create VPC.
  Konfigurasikan Nama VPC, Blok CIDR IPv4, dan vSwitch, gunakan nilai default untuk parameter lainnya. Lalu, klik OK untuk membuat VPC dan vSwitch.
  Kembali ke halaman konfigurasi DSW. Untuk VPC Settings, pilih VPC yang baru saja Anda buat.
  Klik Create Security Group. Anda dapat mempertahankan nilai parameter default dan klik Create. Kembali ke halaman konfigurasi DSW dan atur Security Group ID ke security group yang telah Anda buat.
  Pastikan security group mengizinkan akses inbound pada port 22.
- Temukan Custom Services, klik Add, masukkan Port pendengar (misalnya 9000), centang kotak Access over Internet, lalu pilih NAT Gateway dan EIP Anda. Anda dapat membuat NAT Gateway dan EIP seperti dijelaskan di bawah. NAT Gateway dan EIP harus berada di wilayah yang sama dengan instans DSW.
  Buat Internet NAT gateway dan elastic IP address
  Klik Create NAT Gateway.
  Pada halaman pembuatan NAT Gateway, konfigurasikan parameter atau gunakan nilai default. Lalu, klik Create EIP.
  Pada halaman pembuatan EIP, konfigurasikan parameter sesuai kebutuhan atau gunakan nilai default, lalu klik Buy Now.
  Kembali ke halaman pembuatan NAT Gateway. Untuk Elastic IP Address Instance, pilih instans yang telah Anda buat, lalu klik Buy Now untuk membuat NAT Gateway.
Konfigurasikan aturan inbound untuk port pendengar pada security group yang dipilih. Parameter utamanya sebagai berikut. Untuk informasi lebih lanjut, lihat Tambahkan aturan security group.
- Authorization Policy: Allow
- Protocol Type: Pilih berdasarkan layanan (misalnya TCP)
- Port Range: Masukkan port pendengar yang telah Anda konfigurasi (misalnya 9000/9000)
- Authorization Object: 0.0.0.0/0 (mengizinkan akses dari semua alamat IP publik untuk pengujian) atau batasi alamat IP sesuai kebutuhan. Untuk lingkungan produksi, kami merekomendasikan agar Anda secara ketat membatasi alamat IP sumber.

Konfigurasi akses jaringan publik untuk instans DSW yang sudah ada

Untuk instans DSW yang sudah ada, Anda dapat memodifikasi konfigurasi akses jaringan publik dengan dua cara berikut.

Catatan: Untuk menambah atau mengubah VPC atau NAT Gateway, Anda harus menggunakan opsi Change Settings. Tindakan ini memerlukan restart instans.

Konfigurasi di halaman detail instans

Pada halaman daftar instans DSW, klik nama instans untuk membuka halaman detail dan modifikasi konfigurasi akses jaringan publik.

Konfigurasi di dalam instans DSW

Di lingkungan pengembangan DSW, Anda dapat mengklik Change Settings di bagian atas halaman untuk memodifikasi layanan.

Uji koneksi

Di Terminal DSW, jalankan perintah berikut untuk menjalankan layanan HTTP bawaan Python.

# Buat file HTML yang berisi konten uji
echo 'Hello, World!' > index.html

# Jalankan layanan HTTP bawaan Python (mendengarkan pada port 9000)
python -m http.server 9000 --bind 0.0.0.0

Di halaman detail instans, temukan titik akhir di bagian Access Configurations.
Ambil contoh akses jaringan publik. Salin titik akhir publik 121.40.**.**:9000 dan akses melalui browser. Jika Hello, World! dikembalikan, konfigurasi akses layanan berhasil.

Rekomendasi untuk lingkungan produksi

Hanya untuk pengembangan dan pengujian: Fitur akses jaringan publik di DSW dirancang untuk pengujian sementara dan debugging kolaboratif.
Deploy ke PAI-EAS untuk lingkungan produksi: Untuk layanan inferensi yang dirilis resmi, deploy ke PAI-EAS. EAS menyediakan:
- Ketersediaan tinggi dan load balancing.
- Skalabilitas elastis otomatis untuk menangani fluktuasi traffic.
- Pemantauan peringatan komprehensif, manajemen versi, dan rilis bertahap.
- Model integrasi dan penagihan yang lebih optimal untuk akses jaringan publik. Untuk informasi lebih lanjut, lihat Deploy model sebagai layanan online.
Hemat biaya:
- Setelah instans DSW dihentikan: Instans DSW pay-as-you-go berhenti dikenai biaya. Namun, NAT Gateway dan EIP akan terus ditagih selama masih ada.
- Jika Anda tidak menggunakan akses jaringan publik dalam periode yang lama: Jika Anda yakin tidak lagi membutuhkannya, pastikan untuk menghapus NAT Gateway dan EIP yang dikonfigurasi untuk DSW agar biaya terkait berhenti. Anda dapat melakukan operasi ini di Konsol VPC dan Konsol EIP.

FAQ

T: Saya telah mengonfigurasi akses jaringan publik, tetapi akses browser atau koneksi eksternal gagal (`This site can't be reached`/`Connection refused`/`Timeout`). Apa yang harus saya lakukan?

Langkah 1: Periksa aturan security group. (Ini adalah penyebab paling umum kegagalan koneksi.)
- Konfirmasi bahwa aturan inbound telah ditambahkan ke security group.
- Periksa apakah Port Range aturan mencakup port yang Anda konfigurasi (misalnya 9000).
- Periksa apakah Authorization Object aturan mencakup alamat IP publik Anda atau 0.0.0.0/0.
- Periksa apakah Protocol Type (TCP/UDP) sudah benar.
Langkah 2: Pastikan layanan sedang berjalan dan mendengarkan pada port yang benar.
- Di Terminal instans DSW, gunakan netstat -tunlp | grep <port_number> (misalnya netstat -tunlp | grep 9000) untuk memeriksa apakah port sedang didengarkan.
- Pastikan proses layanan aplikasi Anda telah dimulai dan mendengarkan pada port yang dikonfigurasi.
Langkah 3: Periksa status NAT Gateway dan EIP.
- Di Konsol VPC, pastikan status NAT Gateway adalah Running.
- Di Konsol EIP, pastikan status EIP yang terkait adalah Bound dan tidak ada pembayaran tertunda.
Langkah 4: Uji secara lokal. Di instans DSW, gunakan curl http://localhost:<port_number> atau curl http://<instance_private_IP>:<port_number> untuk memeriksa apakah layanan merespons.
Langkah 5: Gunakan alat diagnostik jaringan.
- Alibaba Cloud VPC menyediakan Network Intelligence Service (NIS) untuk membantu memecahkan masalah jalur. Layanan ini memerlukan aktivasi.
- Di instans DSW, gunakan telnet <EIP> <port> untuk menguji konektivitas port. Anda harus menginstal telnet terlebih dahulu.

T: Apakah saya tetap dikenai biaya untuk konfigurasi akses jaringan publik setelah menghentikan instans DSW?

Ya. Setelah instans DSW dihentikan, instans itu sendiri (jika merupakan instans pay-as-you-go) tidak ditagih. Namun, sumber daya NAT Gateway dan EIP terkait ditagih secara terpisah selama belum dihapus. Untuk menghindari biaya yang tidak perlu, pastikan untuk menghapusnya secara manual.

T: Dapatkah satu EIP dipetakan ke beberapa port?

Ya. Beberapa port layanan (maksimal lima) yang dikonfigurasi untuk instans DSW yang sama semuanya dapat dipetakan dan diakses melalui EIP dan NAT Gateway yang sama. Saat mengaksesnya, gunakan EIP:different_port untuk menentukan port.