Permasalahan konektivitas jaringan sinkronisasi data
Permasalahan konfigurasi kelompok sumber daya
Apa yang perlu saya ketahui tentang DataWorks dan kemampuan jaringannya sebelum menjalankan tugas sinkronisasi batch?
Sebelum menyinkronkan data menggunakan Integrasi Data, pastikan Anda memahami informasi berikut:
VPC, vSwitch, dan wilayah database tempat Anda ingin menyinkronkan data, serta wilayah ruang kerja DataWorks.
Apakah terdapat kondisi khusus, seperti database dan ruang kerja DataWorks berada di bawah Akun Alibaba Cloud yang berbeda atau di wilayah yang berbeda.
Jika Anda mengalami masalah selama sinkronisasi tugas, Anda dapat merujuk terlebih dahulu ke Troubleshoot data synchronization issues untuk troubleshooting mandiri.
Jika Anda mengalami masalah saat menguji konektivitas sumber data, Anda dapat merujuk terlebih dahulu ke Troubleshoot data source connectivity issues untuk memilih solusi yang tepat dalam troubleshooting.
Saat menggunakan kelompok sumber daya eksklusif untuk Integrasi Data, ikuti langkah-langkah berikut: beli kelompok sumber daya, kaitkan dengan VPC tempat database terhubung, evaluasi apakah perlu menambahkan rute, konfigurasikan daftar izin database, dan kaitkan kelompok sumber daya eksklusif dengan ruang kerja. Untuk informasi lebih lanjut, lihat Configure an exclusive resource group for Data Integration.
Bagaimana cara memastikan konektivitas jaringan antara DataWorks dan database yang dikelola sendiri pada instance ECS?
Jika Anda ingin menggunakan kelompok sumber daya eksklusif untuk Integrasi Data guna menyinkronkan data dari database yang dikelola sendiri pada instance ECS melalui jaringan internal, Anda harus mengonfigurasi pengaturan jaringan untuk kelompok sumber daya eksklusif tersebut. Untuk informasi lebih lanjut, lihat Configure an exclusive resource group for Data Integration. Poin-poin utama solusi konektivitas adalah sebagai berikut:
Kaitkan kelompok sumber daya eksklusif untuk Integrasi Data dengan VPC tempat instance ECS berada. Rute yang mengarah ke blok CIDR VPC akan ditambahkan secara otomatis. Kami menyarankan agar Anda tidak menghapus rute ini secara manual karena dapat menyebabkan kegagalan akses ke database lain dan error tugas.
Tambahkan blok CIDR vSwitch yang dikaitkan dengan kelompok sumber daya eksklusif untuk Integrasi Data ke daftar izin database. Untuk informasi lebih lanjut, lihat Add allowlist entries.
Bagaimana cara memastikan konektivitas jaringan ketika database dan ruang kerja DataWorks berada di wilayah yang berbeda?
Sebelum memulai, rujuk ke Troubleshoot data source connectivity issues untuk memilih solusi konektivitas jaringan yang tepat. Poin-poin utama solusi konektivitas adalah sebagai berikut:
Jika Anda menggunakan Internet untuk menyinkronkan data dari database di wilayah berbeda, Anda harus menambahkan EIP kelompok sumber daya eksklusif ke daftar izin database. Untuk informasi lebih lanjut, lihat Add allowlist entries.
Sinkronisasi data berbasis Internet akan dikenakan biaya lalu lintas internet. Untuk informasi lebih lanjut, lihat Pricing.
Bagaimana cara memastikan konektivitas jaringan ketika database dan ruang kerja DataWorks berada di bawah Akun Alibaba Cloud yang berbeda?
Sebelum memulai, rujuk ke Troubleshoot data source connectivity issues untuk memilih solusi troubleshooting yang tepat.
Jika Anda menggunakan Internet untuk menyinkronkan data dari database di bawah akun berbeda, Anda harus menambahkan EIP kelompok sumber daya eksklusif ke daftar izin database. Untuk informasi lebih lanjut, lihat Add allowlist entries.
CatatanSinkronisasi data berbasis Internet akan dikenakan biaya lalu lintas internet. Untuk informasi lebih lanjut, lihat Pricing.
Jika Anda ingin menyinkronkan data dari database di bawah akun berbeda melalui jaringan internal, lakukan langkah-langkah berikut:
Hubungkan jaringan kedua Akun Alibaba Cloud menggunakan layanan jaringan seperti VPN Gateway atau Express Connect.
Kaitkan kelompok sumber daya eksklusif untuk Integrasi Data dengan VPC yang telah terhubung ke jaringan Akun Alibaba Cloud lainnya.
Setelah mengaitkan VPC, tambahkan rute kustom, pilih "On-premises IDC", dan tambahkan alamat IP database tujuan.
Tambahkan blok CIDR vSwitch yang dikaitkan dengan kelompok sumber daya eksklusif ke daftar izin database. Perhatikan bahwa blok CIDR vSwitch yang dimaksud adalah yang dikaitkan dengan kelompok sumber daya tersebut. Untuk informasi lebih lanjut, lihat Add allowlist entries.
Apa yang harus saya lakukan jika pengujian konektivitas gagal untuk database di VPC?
Jika Anda menambahkan sumber data menggunakan titik akhir VPC:
Pastikan Anda telah mengaitkan kelompok sumber daya eksklusif untuk Integrasi Data dengan VPC tempat database berada.
Pastikan blok CIDR vSwitch yang dikaitkan dengan kelompok sumber daya eksklusif untuk Integrasi Data telah ditambahkan ke daftar izin database. Untuk informasi lebih lanjut, lihat Add allowlist entries.
Jika Anda menambahkan sumber data menggunakan titik akhir publik dan pengujian konektivitas gagal dengan kelompok sumber daya eksklusif untuk Integrasi Data, periksa apakah EIP kelompok sumber daya eksklusif tersebut telah ditambahkan ke daftar izin database. Untuk informasi lebih lanjut, lihat Add allowlist entries.
CatatanSinkronisasi data berbasis Internet akan dikenakan biaya lalu lintas internet. Untuk informasi lebih lanjut, lihat Pricing.
Apa yang harus saya lakukan jika konektivitas sumber data bersifat intermiten?
Periksa apakah Anda menggunakan kelompok sumber daya yang dibagikan. Jaringan kelompok sumber daya yang dibagikan tidak stabil. Kami menyarankan Anda menggunakan kelompok sumber daya eksklusif untuk Integrasi Data guna memastikan stabilitas koneksi.
Bagaimana cara memastikan konektivitas jaringan antara kelompok sumber daya arsitektur tanpa server dan Hologres saat menyinkronkan data dengan Integrasi Data?
Kelompok sumber daya arsitektur tanpa server harus dikaitkan dengan VPC tempat instans Hologres berada. Lakukan langkah-langkah berikut:
Masuk ke Konsol DataWorks dan temukan kelompok sumber daya arsitektur tanpa server yang dituju dalam daftar kelompok sumber daya.
Klik Network Settings. Di bagian Data Scheduling and Data Integration, klik Add VPC Association.
Pilih VPC, zona, dan vSwitch tempat instans Hologres berada, lalu klik OK.
Setelah pengaitan selesai, buat sumber data Hologres di bagian manajemen sumber data Integrasi Data, lalu klik Test Connectivity untuk memverifikasi keberhasilan koneksi.
Jika blok CIDR VPC yang telah dikaitkan dengan kelompok sumber daya bertentangan dengan blok CIDR VPC Hologres, putuskan kaitan VPC yang bertentangan terlebih dahulu, lalu tambahkan VPC Hologres. Pengaitan VPC akan membuat elastic network interfaces (ENIs) di VPC yang mengonsumsi kuota. Jangan hapus ENIs ini.
Untuk operasi detail tentang pergantian konfigurasi jaringan Hologres, lihat Switch Hologres network configurations.
Bagaimana cara melakukan troubleshooting kesalahan koneksi atau kegagalan konektivitas saat DataWorks terhubung ke Kafka akibat ketidaksesuaian advertised.listeners?
Jika DataWorks gagal terhubung ke kluster Kafka atau melaporkan kesalahan koneksi, lakukan troubleshooting berdasarkan skenario berikut:
Di security group ECS, izinkan akses dari blok CIDR vSwitch yang dikaitkan dengan kelompok sumber daya DataWorks yang digunakan untuk tugas tersebut (misalnya, 172.17.112.0/20).
Pastikan alamat kluster Kafka sesuai dengan nilai parameter
advertised.listenersdalam fileserver.propertiessetiap broker, serta semua broker dalam kluster berada dalam kondisi berjalan normal.Jika Anda terhubung ke Kafka menggunakan alamat IP internal, pastikan VPC yang dikaitkan dengan kelompok sumber daya DataWorks dapat mengakses alamat IP internal tersebut.
Jika Anda terhubung ke Kafka menggunakan alamat IP publik, konfigurasikan NAT Gateway dan Elastic IP Address (EIP) untuk VPC yang dikaitkan dengan kelompok sumber daya DataWorks.
Jika resolusi nama domain gagal, konfigurasikan resolusi DNS internal menggunakan PrivateZone.
Apa yang harus saya lakukan jika saya telah membeli kelompok sumber daya eksklusif tetapi tidak dapat menemukannya saat menguji konektivitas sumber data atau menjalankan tugas?
Pastikan kelompok sumber daya eksklusif telah dikaitkan dengan ruang kerja DataWorks. Untuk informasi lebih lanjut, lihat Associate a resource group with a workspace.
Bagaimana cara memeriksa log untuk menentukan jenis kelompok sumber daya tempat tugas dijalankan?
Jika tugas dijalankan pada kelompok sumber daya default, informasi berikut akan muncul di log:
running in Pipeline[basecommon_ group_xxxxxxxxx].Jika tugas dijalankan pada kelompok sumber daya kustom untuk Integrasi Data, informasi berikut akan muncul di log:
running in Pipeline[basecommon_xxxxxxxxx].Jika tugas dijalankan pada kelompok sumber daya eksklusif untuk Integrasi Data, informasi berikut akan muncul di log:
running in Pipeline[basecommon_S_res_group_xxx].
Bagaimana cara mengganti kelompok sumber daya yang digunakan oleh tugas dalam sistem penjadwalan?
Ganti kelompok sumber daya penjadwalan dan kelompok sumber daya Integrasi Data untuk eksekusi tugas di Pusat Operasi: Pada halaman Pusat Operasi > Scheduled Task O&M > Scheduled Tasks, pilih tugas yang ingin Anda ganti kelompok sumber dayanya, lalu klik Change Scheduling Resource Group atau Change Data Integration Resource Group di bagian bawah halaman untuk melakukan perubahan batch.
Lakukan proses penerapan di Data Studio untuk mengubah kelompok sumber daya yang digunakan oleh tugas di lingkungan produksi.
CatatanSaat mengganti kelompok sumber daya dengan metode berikut, ingatlah untuk menerapkan perubahan tersebut. Dalam mode standar, pengiriman perubahan hanya berlaku di lingkungan pengembangan. Perubahan baru berlaku untuk penjadwalan otomatis tugas terjadwal di lingkungan produksi setelah penerapan. Setelah penerapan, Anda dapat memeriksa apakah perubahan kelompok sumber daya telah berlaku di bagian tugas terjadwal di Pusat Operasi.
1. Ganti kelompok sumber daya untuk penjadwalan tugas: Buka panel Schedule Settings node tugas. Di bagian Resource Properties, klik daftar drop-down Scheduling Resource Group dan pilih kelompok sumber daya target (misalnya, Shared Scheduling Resource Group).
2. Ganti kelompok sumber daya Integrasi Data untuk eksekusi tugas: Klik tab Data Integration Resource Group Configuration di sidebar kanan. Di daftar drop-down Exclusive Resource Group for Data Integration, pilih kelompok sumber daya target (misalnya, xiangcui_vpc).
Bagaimana cara melakukan troubleshooting kelompok sumber daya kustom yang sedang menunggu gerbang?
Masuk ke Konsol DataWorks. Di panel navigasi kiri, klik Daftar Kelompok Sumber Daya dan buka tab Kelompok Sumber Daya Kustom. Klik Manajemen Server di samping kelompok sumber daya penjadwalan yang digunakan oleh tugas, lalu periksa apakah server berhenti atau sedang digunakan oleh tugas lain.
Jika langkah troubleshooting di atas tidak menyelesaikan masalah, jalankan perintah berikut untuk restart layanan.
su - admin /home/admin/alisatasknode/target/alisatasknode/bin/serverctl restartBagaimana cara menemukan alamat IP publik kelompok sumber daya untuk daftar izin alamat IP?
Jika Anda menggunakan kelompok sumber daya eksklusif untuk Integrasi Data guna menyinkronkan data melalui Internet, tambahkan EIP kelompok sumber daya eksklusif tersebut ke daftar izin database. Anda dapat memperoleh EIP sebagai berikut:
Pada halaman Resource Groups di Konsol DataWorks, klik tab Exclusive Resource Groups. Klik Details di samping kelompok sumber daya Integrasi Data, lalu salin EIP dari bagian informasi dasar ke daftar izin database.
Mengapa saya mendapatkan error "insufficient resources" padahal kelompok sumber daya memiliki sumber daya yang tersedia?
Periksa detail kelompok sumber daya. Umumnya, sumber daya tersisa pada kelompok sumber daya tidak mencukupi untuk tugas baru. Misalnya, kelompok sumber daya mungkin memiliki tugas yang sedang dalam antrian pada waktu tersebut.
Berapa banyak VPC yang dapat dikaitkan dengan kelompok sumber daya arsitektur tanpa server, dan apa yang harus saya lakukan jika kuota telah tercapai?
Setiap kelompok sumber daya arsitektur tanpa server mendukung maksimal dua kaitan VPC.
Masuk ke Konsol DataWorks. Pada halaman Resource Groups, temukan kelompok sumber daya arsitektur tanpa server yang dituju dan klik Details. Di bagian informasi dasar halaman detail kelompok sumber daya, bidang VPCs That Can Be Associated menampilkan penggunaan kuota saat ini dalam format X associated, Y remaining.
Saat kuota dua VPC telah terpakai penuh (2 associated, 0 remaining), Anda tidak dapat menambahkan kaitan VPC lagi. Anda dapat mengatasi masalah ini dengan metode berikut:
Evaluasi apakah Anda dapat menggunakan kembali VPC yang sudah dikaitkan. Terapkan sumber data yang memerlukan konektivitas di VPC yang sudah dikaitkan, atau hubungkan VPC tempat sumber data berada ke VPC yang sudah dikaitkan menggunakan Cloud Enterprise Network (CEN).
Gunakan Cloud Enterprise Network (CEN) untuk konektivitas antar-VPC. Tambahkan VPC yang sudah dikaitkan dan VPC target ke instans CEN yang sama untuk membangun konektivitas jaringan. Dengan cara ini, Anda dapat mengakses sumber data di VPC target tanpa mengonsumsi kuota kaitan VPC tambahan.
Kaitan VPC dalam pengaturan jaringan kelompok sumber daya dibagi menjadi dua bagian: Data Service dan Data Scheduling. Kuota dua VPC merupakan total kuota tingkat kelompok sumber daya yang dibagi bersama oleh kedua bagian tersebut.
Apa yang harus saya lakukan jika kelompok sumber daya DataWorks dan instans ApsaraDB RDS for MySQL berada di VPC yang sama serta daftar izin telah dikonfigurasi, tetapi koneksi tetap gagal?
Masalah ini biasanya terjadi karena tugas tidak dijalankan pada kelompok sumber daya yang dikaitkan dengan VPC database. Saat mengonfigurasi atau menjalankan tugas, pilih secara eksplisit kelompok sumber daya yang dikaitkan dengan VPC tempat instans ApsaraDB RDS for MySQL berada dan yang telah dikonfigurasi dengan entri daftar izin database yang diperlukan.
Jika Anda hanya perlu mengembangkan dan men-debug tugas di Integrasi Data, cukup pastikan pengujian konektivitas sumber data berhasil. Anda tidak perlu mempertimbangkan konektivitas modul Data Service dalam skenario ini.
Apa yang harus saya lakukan jika saya tidak dapat menemukan instans target saat membuat sumber data dari instans ApsaraDB RDS?
Jika instans yang ingin Anda gunakan tidak muncul dalam daftar instans saat membuat sumber data dari instans ApsaraDB RDS, pertama-tama pastikan apakah tipe instans RDS adalah MySQL atau PostgreSQL. Kemudian, atur tipe sumber data agar sesuai dengan tipe instans RDS yang sebenarnya, lalu refresh halaman untuk memuat ulang daftar instans lengkap.
Apa yang harus saya lakukan jika DataWorks gagal terhubung ke database eksternal, seperti MongoDB Atlas, melalui Internet dan melaporkan error UnknownHostException?
Jika terjadi kegagalan konektivitas atau error UnknownHostException saat Anda menggunakan DataWorks untuk terhubung ke database eksternal melalui Internet, lakukan troubleshooting sebagai berikut:
Pastikan Gateway NAT telah dikonfigurasi untuk VPC kelompok sumber daya arsitektur tanpa server dan Elastic IP Address (EIP) telah dikaitkan dengan Gateway NAT tersebut. Verifikasi bahwa EIP ini dapat diakses dari Internet, misalnya dengan menjalankan pengujian ping terhadapnya.
Di sisi database eksternal (misalnya, MongoDB Atlas), periksa apakah EIP Gateway NAT telah ditambahkan ke daftar izin akses, atau apakah database dikonfigurasi untuk mengizinkan akses dari semua alamat IP.
Jika koneksi tetap gagal setelah Anda menyelesaikan pemeriksaan di atas, database target biasanya berada di lingkungan cloud lain, seperti MongoDB Atlas atau Microsoft Azure. Koneksi Internet antar-lingkungan cloud berbeda dapat terpengaruh oleh pembatasan jaringan lintas batas atau ketidakstabilan. Dalam kasus ini, gunakan IPsec VPN atau Express Connect untuk membangun koneksi jaringan internal antara VPC Alibaba Cloud Anda dan lingkungan cloud target. Kemudian, konfigurasikan sumber data menggunakan alamat jaringan internal untuk meningkatkan konektivitas dan stabilitas.