Platform For AI：Mengakses layanan dalam instans melalui Internet

Catatan penting

• Biaya tambahan: Akses Internet memerlukan NAT Gateway dan Elastic IP Address (EIP). Ini adalah layanan terpisah dan dapat menyebabkan biaya tambahan.

• Jenis instans yang didukung: Mendukung instans yang menggunakan grup sumber daya publik (dengan jenis instans tidak dimulai dengan ecs.ebm) dan instans Lingjun. Setiap instans dapat memiliki hingga 5 layanan kustom.

• Penghentian layanan saat DSW berhenti: Saat instans DSW dihentikan, layanan internalnya (dan kemampuan akses Internet) akan menjadi tidak tersedia.

• EAS direkomendasikan untuk produksi: Untuk layanan stabil, sangat tersedia dengan dukungan skalabilitas elastis di lingkungan produksi, deploy model Anda ke Elastic Algorithm Service (EAS).

Cara kerjanya

Untuk membuat layanan di dalam instans DSW (seperti API yang berjalan pada port 9000) dapat diakses dari Internet, sumber daya berikut diperlukan:

1. Elastic IP Address (EIP): Menyediakan alamat IP publik tetap (121.40.**.**). Ini adalah titik akhir untuk akses Internet.

2. NAT Gateway: Berada di dalam VPC Anda, ia memetakan permintaan Internet (EIP:port) ke instans DSW (IP pribadi:port).

3. Grup keamanan: Bertindak sebagai firewall untuk instans DSW. Anda harus secara eksplisit menambahkan aturan untuk mengizinkan lalu lintas Internet mengakses port tertentu yang didengarkan oleh layanan Anda (seperti 9000). Ini adalah langkah kunci untuk akses yang berhasil.

Alur inti: Pengguna Internet (browser/alat) -> EIP:port -> NAT Gateway -> vSwitch -> Pemeriksaan aturan grup keamanan -> IP pribadi instans DSW:port -> Layanan Anda

Informasi penagihan

• NAT Gateway dan EIP mulai ditagih sejak pembuatan.

• Bahkan jika instans DSW dihentikan, selama NAT Gateway dan EIP tidak dihapus, mereka akan terus menghasilkan biaya.

• Instans DSW itu sendiri ditagih berdasarkan statusnya (instans bayar sesuai pemakaian tidak ditagih saat dihentikan).

Cara mengonfigurasi akses Internet

Uji konektivitas

1. Di Terminal DSW, jalankan perintah berikut untuk memulai server HTTP bawaan Python.

   # Buat file HTML dengan konten uji
   echo 'Halo, Dunia!' > index.html
   
   # Mulai server HTTP bawaan Python (mendengarkan pada port 9000)
   python -m http.server 9000 --bind 0.0.0.0

2. Di halaman detail instans, lihat Access Configuration untuk mendapatkan alamat akses.

   

   Untuk akses Internet, salin alamat akses publik 121.40.**.**:9000 dan akses di browser. Saat Halo, Dunia! dikembalikan, konfigurasi akses layanan berhasil.

Rekomendasi untuk produksi

• Hanya untuk pengembangan dan pengujian: Fitur akses Internet DSW dirancang untuk pengujian sementara dan debugging kolaboratif.

• Deploy ke EAS untuk produksi: Untuk layanan inferensi yang dirilis secara resmi, deploy ke PAI-EAS. EAS menyediakan:

  • Ketersediaan tinggi dan load balancing.

  • Skalabilitas elastis otomatis untuk menangani fluktuasi lalu lintas.

  • Pemantauan peringatan komprehensif, manajemen versi, dan rilis canary.

  • Integrasi akses Internet yang lebih dioptimalkan dan metode penagihan. Untuk informasi lebih lanjut, lihat Deploy model.

• Penghematan biaya:

  • Setelah instans DSW dihentikan: Instans DSW itu sendiri (bayar sesuai pemakaian) berhenti ditagih. Namun, penagihan NAT Gateway dan EIP akan terus berlanjut selama mereka ada.

  • Saat akses Internet tidak lagi diperlukan: Jika Anda yakin tidak lagi membutuhkannya, pastikan untuk menghapus NAT Gateway dan EIP untuk menghentikan biaya terkait. Anda dapat melakukannya di konsol VPC dan konsol EIP.

FAQ

T: Akses Internet telah dikonfigurasi, tetapi akses browser/koneksi eksternal gagal (Tidak dapat mencapai situs/Koneksi ditolak/Timeout)?

• Langkah 1: Periksa aturan grup keamanan (penyebab paling umum)

  • Pastikan grup keamanan telah menambahkan aturan arah masuk.

  • Periksa apakah aturan Rentang Port mencakup port yang Anda konfigurasikan (seperti 9000)

  • Periksa apakah aturan Obyek Otorisasi mencakup IP publik Anda atau 0.0.0.0/0

  • Periksa apakah aturan Jenis Protokol (TCP/UDP) benar

• Langkah 2: Konfirmasikan layanan sedang berjalan dan mendengarkan pada port yang benar

  • Di Terminal instans DSW, gunakan netstat -tunlp | grep <nomor port> (seperti netstat -tunlp | grep 9000) untuk memeriksa apakah port sedang didengarkan.

  • Pastikan proses layanan aplikasi Anda telah dimulai dan mendengarkan pada port yang dikonfigurasikan.

• Langkah 3: Periksa status NAT Gateway dan EIP

  • Di konsol VPC, konfirmasikan status NAT Gateway adalah Berjalan.

  • Di konsol EIP, konfirmasikan status EIP terkait adalah Dialokasikan dan tidak dalam tunggakan.

• Langkah 4: Pengujian lokal: Di dalam instans DSW, coba gunakan curl http://localhost:<nomor port> atau curl http://<IP pribadi instans>:<nomor port> untuk melihat apakah layanan merespons.

• Langkah 5: Gunakan alat diagnostik jaringan:

  • Alibaba Cloud VPC menyediakan Network Intelligence Service untuk membantu memecahkan masalah jalur (memerlukan aktivasi).

  • Gunakan telnet <EIP> <port> di dalam instans DSW untuk menguji konektivitas port (memerlukan instalasi telnet terlebih dahulu).

• Apakah konfigurasi akses Internet masih akan menimbulkan biaya setelah DSW dihentikan?

  • Ya, setelah instans DSW dihentikan, instans itu sendiri (bayar sesuai pemakaian) berhenti ditagih. Namun, sumber daya NAT Gateway dan EIP terkait akan terus ditagih secara independen selama mereka tidak dihapus. Pastikan untuk menghapusnya secara manual untuk menghemat biaya.

• Bisakah satu EIP memetakan beberapa port?

  • Ya. Beberapa port layanan yang dikonfigurasikan pada instans DSW yang sama (hingga 5) semuanya dapat dipetakan melalui EIP dan NAT Gateway yang sama. Akses menggunakan EIP:port berbeda.