Cloud Network Well-architected Design Guidelines:Desain jaringan pengiriman aplikasi untuk ECS

Prasyarat

Pertama-tama, tentukan apakah aplikasi Anda memerlukan load balancing Lapisan 4 atau Lapisan 7.

• Jika aplikasi Anda memerlukan load balancing Lapisan 4, pilih NLB atau CLB.

• Jika aplikasi Anda memerlukan load balancing Lapisan 7, pilih ALB atau CLB.

Pertimbangan kinerja

Pilih load balancer berdasarkan kebutuhan kinerja aplikasi Anda.

• Dimensi kapasitas

  • Untuk load balancing Lapisan 4 dengan kebutuhan kinerja dan elastisitas tinggi, pilih NLB.

  • Untuk load balancing Lapisan 7 dengan kebutuhan QPS tinggi, pilih ALB.

  • Jika Anda tidak memiliki kebutuhan kinerja tinggi, CLB merupakan opsi untuk Lapisan 4 maupun Lapisan 7.

• Dimensi dukungan fitur

  • Untuk load balancing Lapisan 4 dengan kebutuhan offloading TCP/SSL, pembatasan laju traffic lonjakan, atau integrasi cloud-native, pilih NLB.

  • Untuk load balancing Lapisan 7 dengan kebutuhan routing lanjutan atau gerbang Ingress cloud-native, pilih ALB.

  • Jika Anda tidak memiliki kebutuhan fitur lanjutan, CLB dapat menangani kebutuhan dasar Lapisan 4 dan Lapisan 7.

Poin stabilitas utama

ALB, NLB, dan CLB memiliki arsitektur pemulihan bencana yang berbeda. Pilih berdasarkan kebutuhan ketersediaan Anda.

• Mode aktif-aktif multi-zona

  Baik ALB maupun NLB mendukung penerapan multi-zona. Terapkan di minimal dua zona untuk ketersediaan tinggi. Mode ini bekerja dengan menyediakan layanan melalui nama domain. Nama domain diselesaikan melalui rekaman CNAME ke domain instans ALB atau NLB, dan traffic diarahkan ke VIP di zona yang dipilih. Saat suatu zona gagal, hapus rekaman DNS-nya untuk pemulihan bencana. Traffic secara otomatis dialihkan ke zona lain yang tersedia, memastikan kelangsungan layanan.

• Mode aktif-pasif dua zona

  CLB mendukung instans multi-zona di sebagian besar wilayah, diterapkan di dua zona dengan zona primer aktif secara default. Jika zona primer gagal, CLB beralih ke zona sekunder dalam waktu sekitar 30 detik. Saat zona primer pulih, CLB secara otomatis beralih kembali.

  Catatan

  Zona primer dan sekunder menyediakan pemulihan bencana tingkat zona. Failover ke zona sekunder hanya dipicu ketika seluruh zona primer menjadi tidak tersedia (misalnya, pemadaman listrik pusat data atau putusnya kabel serat optik), bukan ketika satu instans gagal.

Mode aktif-aktif multi-zona NLB dan ALB menyediakan pemulihan bencana yang lebih luas dibanding CLB. Satu instans mencakup dua atau lebih zona, meningkatkan ketersediaan tinggi dan pemulihan kesalahan. Anda dapat secara manual menghapus rekaman DNS untuk zona abnormal guna mengisolasi kesalahan dengan cepat. Untuk sistem dengan kebutuhan ketersediaan tinggi, NLB dan ALB merupakan pilihan yang lebih baik.

Poin Elastisitas Utama

Elastisitas berarti memiliki kapasitas yang dibutuhkan selama puncak traffic sekaligus hanya membayar sesuai penggunaan. Hal ini menghindari biaya penyediaan sumber daya di muka.

• ALB dan NLB keduanya menawarkan kinerja tinggi dengan penagihan pay-as-you-go, mendukung penggunaan sesuai kebutuhan.

• CLB mendukung penagihan bayar-per-spesifikasi dan pay-as-you-go. Metode pay-as-you-go memungkinkan penggunaan sesuai kebutuhan.

Pertimbangan keamanan

ALB, NLB, dan CLB memiliki kemampuan keamanan yang berbeda. Pilih berdasarkan kebutuhan keamanan aplikasi Anda.

• Load balancing Lapisan 7: Pencegahan serangan web

  Jika aplikasi Anda memerlukan pencegahan serangan web, gunakan ALB. Edisi WAF-enabled ALB mendukung integrasi berbasis layanan dengan Alibaba Cloud WAF 3.0.

  Dengan integrasi berbasis layanan, WAF berjalan sebagai modul SDK di dalam ALB, mengekstraksi traffic untuk deteksi tanpa ikut serta dalam pengalihan. Ini memberikan dua keuntungan:

  • Pengalihan: WAF tidak ikut serta dalam pengalihan traffic, menghindari masalah kompatibilitas dan stabilitas akibat lapisan pengalihan tambahan serta mengurangi latensi akses.

  • Penerapan: Tidak diperlukan perubahan rekaman DNS, konfigurasi sertifikat, konfigurasi port, atau pengaturan back-to-origin untuk integrasi WAF.

• Load balancing Lapisan 4: Enkripsi lapisan transport

  Jika aplikasi Anda memerlukan load balancing Lapisan 4 dengan enkripsi TCP/SSL, pilih NLB.

  NLB mendukung pendengar TCP/SSL yang mendekripsi traffic terenkripsi menjadi teks biasa sebelum mendistribusikannya ke server backend, menyederhanakan konfigurasi backend dan meningkatkan efisiensi pemrosesan.

Pertimbangan kinerja

• Kinerja pemrosesan instans

  Instans ALB dan NLB menawarkan kinerja tinggi dan elastisitas. Namun, jika aplikasi Anda harus menangani traffic lonjakan yang dapat diprediksi (seperti promosi penjualan), hubungi manajer akun Alibaba Cloud Anda terlebih dahulu untuk mengevaluasi apakah kapasitas instans mampu menangani lonjakan tersebut.

  Untuk CLB, kapasitas pemrosesan maksimum per instans setara dengan spesifikasi S3.large (1.000.000 koneksi maksimum, 100.000 koneksi baru, dan 50.000 QPS), terlepas dari apakah Anda menggunakan penagihan bayar-per-spesifikasi atau pay-as-you-go. Pilih metode penagihan, tipe instans, dan jumlah instans berdasarkan model traffic Anda.

• Kinerja bandwidth publik

  Untuk instans ALB atau NLB yang menghadap publik, akses jaringan publik disediakan melalui EIP.

  • Untuk traffic stabil, gunakan penagihan bayar-per-bandwidth untuk Internet Shared Bandwidth dan tetapkan bandwidth puncak yang diperlukan.

  • Untuk traffic dengan puncak dan lembah signifikan, gunakan penagihan bayar-per-traffic-dominan untuk Internet Shared Bandwidth. Dalam mode ini, traffic inbound atau outbound yang lebih besar dalam satu siklus penagihan akan ditagih.

  Catatan

  Bandwidth puncak EIP bayar-berdasarkan-transfer-data adalah 200 Mbps. Untuk memastikan bandwidth yang cukup, gunakan Internet Shared Bandwidth.

  Untuk CLB, Anda dapat menyediakan akses jaringan publik menggunakan instans CLB privat dengan EIP, atau menggunakan instans CLB publik secara langsung. Untuk mengaktifkan multiplexing bandwidth di beberapa instans sekaligus mempertahankan kepemilikan IP independen, gunakan instans CLB privat dengan EIP dan Internet Shared Bandwidth.

Poin stabilitas utama

• Perencanaan zona instans

  • ALB: Pilih minimal dua zona. Zona harus sesuai dengan zona server backend. ALB tidak mendukung penonaktifan pengalihan lintas zona — VIP mengalihkan traffic ke server backend di semua zona, bukan hanya zona miliknya sendiri.

  • NLB: Pilih minimal dua zona yang sesuai dengan zona server backend. Anda dapat menonaktifkan pengalihan lintas zona sehingga VIP hanya mengalihkan traffic ke server backend di zona yang sama.

  • CLB: Zona primer harus sesuai dengan zona server backend untuk mencegah pengalihan lintas zona.

• Pemeriksaan kesehatan server backend

  Aktifkan pemeriksaan kesehatan untuk memantau ketersediaan server backend. Saat server gagal dalam pemeriksaan kesehatan, load balancer mengarahkan permintaan baru ke server yang sehat. Saat server yang gagal pulih, server tersebut secara otomatis dikembalikan. ALB, NLB, dan CLB semuanya mendukung pemeriksaan kesehatan TCP dan HTTP.

• Pembatasan laju pendengar

  Gunakan pembatasan laju pendengar untuk mencegah lonjakan traffic membanjiri server backend dan menyebabkan efek avalan.

  • Application Load Balancer (ALB): Pembatasan laju permintaan per detik (QPS)

    Tetapkan batas QPS total atau batas QPS tingkat klien (berdasarkan IP sumber klien). Anda dapat mengonfigurasi keduanya secara terpisah atau bersamaan.

  • Network Load Balancer (NLB): Pembatasan laju koneksi baru per detik (CPS)

    Tetapkan jumlah maksimum koneksi baru per detik untuk setiap zona (VIP).

Pertimbangan keamanan

• Kontrol akses menggunakan daftar hitam dan daftar putih

  Baik ALB maupun NLB dapat ditambahkan ke grup keamanan. Anda dapat menerapkan kontrol akses berbasis daftar putih atau daftar hitam dengan menambahkan instans ALB ke grup keamanan atau menambahkan instans NLB ke grup keamanan.

  CLB menyediakan kontrol akses tingkat pendengar. Anda dapat menetapkan daftar putih atau daftar hitam untuk pendengar yang berbeda:

  • Daftar putih: Hanya permintaan dari alamat IP atau blok CIDR tertentu yang dialihkan. Gunakan daftar putih untuk membatasi akses ke IP tertentu.

  • Daftar hitam: Permintaan dari alamat IP atau blok CIDR tertentu diblokir. Gunakan daftar hitam untuk menolak akses dari IP tertentu.

• Kebijakan TLS kustom

  • Untuk skenario HTTPS Lapisan 7, ALB menyediakan kebijakan keamanan TLS yang telah ditentukan. Pilih kebijakan yang sesuai atau konfigurasi kebijakan kustom berdasarkan kebutuhan keamanan Anda.

  • Untuk skenario TCP/SSL Lapisan 4, NLB menyediakan kebijakan keamanan TLS yang telah ditentukan. Pilih kebijakan yang sesuai atau konfigurasi kebijakan kustom berdasarkan kebutuhan keamanan Anda.

  Catatan

  CLB tidak mendukung kebijakan keamanan TLS kustom.

• Otentikasi timbal balik

  Dalam skenario HTTPS, ALB (edisi Standard dan WAF-enabled), NLB, dan CLB semuanya mendukung otentikasi timbal balik. Dalam skenario TCP/SSL, NLB juga mendukung otentikasi timbal balik. Terapkan layanan HTTPS yang menggunakan otentikasi timbal balik pada instans ALB, Terapkan offloading TCP/SSL dengan otentikasi timbal balik menggunakan instans NLB, dan Terapkan layanan HTTPS yang menggunakan otentikasi timbal balik pada instans CLB.

Poin Observabilitas Utama

• Pemantauan

  Jika aplikasi Anda mengalami masalah koneksi seperti timeout permintaan atau pembatasan traffic, atau jika Anda ingin memahami beban kerja load balancer, periksa metrik pemantauan: metrik NLB, metrik ALB, dan metrik CLB.

• Log

  Load balancer menyediakan log operasi dan log akses: log ALB, log NLB, log akses CLB, dan log operasi CLB.

  • Log operasi: Mencatat operasi yang dilakukan pada load balancer Anda.

  • Log akses: Mencatat semua permintaan ke load balancer Lapisan 7, termasuk waktu permintaan, IP klien, latensi, jalur permintaan, dan respons server. Gunakan log akses untuk menganalisis perilaku klien, distribusi geografis, dan melakukan troubleshooting masalah.

• Network Intelligence Service

  Selain pemantauan dan pencatatan log bawaan, pertimbangkan untuk mengaktifkan Network Intelligence Service untuk observabilitas yang lebih baik pada jaringan pengiriman aplikasi Anda.

Load balancing Lapisan 4

Tinjauan dan ringkasan pertimbangan desain utama:

• Poin stabilitas utama

  • Buat instans NLB di minimal dua zona. Zona harus sama dengan zona tempat server backend berada.

  • Pertimbangkan untuk menonaktifkan pengalihan lintas zona untuk instans NLB.

  • Evaluasi apakah akan mengaktifkan pembatasan laju koneksi baru untuk mencegah efek avalan akibat lonjakan traffic tak terduga.

  • Aktifkan pemeriksaan kesehatan untuk grup server backend.

• Pertimbangan kinerja

  Untuk instans NLB yang menghadap publik, gunakan Internet Shared Bandwidth dengan penagihan bayar-per-traffic-dominan atau bayar-per-bandwidth sesuai model traffic Anda.

• Pertimbangan keamanan

  Berdasarkan kebutuhan kontrol keamanan aplikasi Anda, evaluasi apakah akan menambahkan instans NLB ke grup keamanan. Jika Anda menggunakan pendengar TCP/SSL, evaluasi apakah akan menggunakan kebijakan TLS kustom dan mengaktifkan otentikasi timbal balik.

Load balancing Lapisan 7

Tinjauan dan ringkasan pertimbangan desain utama:

• Poin stabilitas utama

  • Buat instans ALB di minimal dua zona. Zona harus sama dengan zona tempat server backend berada.

  • Evaluasi apakah akan mengaktifkan pembatasan laju QPS untuk mencegah efek avalan akibat lonjakan traffic tak terduga.

  • Aktifkan pemeriksaan kesehatan untuk grup server backend.

• Pertimbangan kinerja

  Untuk instans ALB yang menghadap publik, gunakan Internet Shared Bandwidth dengan penagihan bayar-per-traffic-dominan atau bayar-per-bandwidth sesuai model traffic Anda.

• Pertimbangan keamanan

  Berdasarkan kebutuhan kontrol keamanan aplikasi Anda, evaluasi apakah akan menambahkan instans ALB ke grup keamanan, menggunakan kebijakan TLS kustom, dan mengaktifkan otentikasi timbal balik.

Pemilihan load balancer

Jika aplikasi Anda menggunakan load balancer untuk jaringan pengiriman aplikasi IPv6, pertimbangkan skenario komunikasi end-to-end IPv6 dan terjemahan IPv6-ke-IPv4.

• Skenario 1: Komunikasi end-to-end IPv6

  NLB dan ALB dapat memasang server backend IPv6 untuk mengalihkan permintaan IPv6 secara end-to-end. CLB tidak mendukung hal ini.

• Skenario 2: Terjemahan IPv6-ke-IPv4

  NLB, ALB, dan CLB semuanya mendukung terjemahan IPv6-ke-IPv4, mengalihkan permintaan klien IPv6 ke server backend IPv4 untuk dukungan IPv6 yang cepat.

Karena NLB dan ALB menangani komunikasi end-to-end IPv6 dan terjemahan IPv6-ke-IPv4, pilih NLB atau ALB untuk jaringan pengiriman aplikasi IPv6 Anda.

NLB dan ALB mendukung instans dual-stack — satu instans memiliki alamat IPv6 dan IPv4, memungkinkan jaringan pengiriman aplikasi terpadu. CLB memerlukan instans IPv6 dan IPv4 terpisah, menghasilkan jaringan independen. NLB atau ALB menyederhanakan arsitektur Anda.

Penerapan load balancer

Selama penerapan IPv6, fokus pada stabilitas, keamanan, elastisitas, observabilitas, dan self-service.

• Komunikasi end-to-end IPv6

  Langkah 1: Aktifkan IPv6 untuk VPC tempat instans NLB atau ALB berada.

  Langkah 2: Buat instans NLB atau ALB dengan versi protokol diatur ke dual-stack.

  Langkah 3: Jika alamat IPv6 instans NLB atau ALB perlu diakses dari Internet, aktifkan bandwidth publik untuk alamat IPv6 di gateway IPv6 VPC tempat instans NLB atau ALB berada.

  Langkah 4: Buat grup server backend untuk instans NLB atau ALB dan aktifkan pemasangan IPv6.

• Terjemahan IPv6-ke-IPv4

  • Penerapan NLB atau ALB

    Langkah 1: Aktifkan IPv6 untuk VPC tempat instans NLB atau ALB berada.

    Langkah 2: Buat instans NLB atau ALB dengan versi protokol diatur ke dual-stack.

    Langkah 3: Jika alamat IPv6 instans NLB atau ALB perlu diakses dari Internet, aktifkan bandwidth publik untuk alamat IPv6 di gateway IPv6 VPC tempat instans NLB atau ALB berada.

    Langkah 4: Buat grup server backend untuk instans NLB atau ALB. Anda tidak perlu mengaktifkan pemasangan IPv6.

  • Penerapan CLB

    Buat instans CLB dengan versi IP diatur ke IPv6. Hanya instans CLB publik yang mendukung IPv6. Kemudian, lengkapi konfigurasi load balancer biasa.