DataWorks Veri Entegrasyonu, tek tablo veya tüm veritabanı çevrimdışı senkronizasyon yoluyla SelectDB'ye veri yazabilir. Bu konuda SelectDB senkronizasyon desteği açıklanmaktadır.
Desteklenen SelectDB sürümleri
SelectDB Writer, MySQL Driver 5.1.47 kullanır. Sürücü yetenekleri için bkz. MySQL Connectors. Sürücü aşağıdaki sürümleri destekler:
Standart SelectDB sürümleri: 2.2.31 ve 2.2.22.
Alibaba Cloud SelectDB sürümleri: 2,4, 3,0 ve 4,0.
Sınırlamalar
BITMAP, HLL (HyperLogLog) ve QUANTILE_STATE alanlarına yazma işlemi desteklenmez.
Desteklenen alan türleri
Her SelectDB sürümündeki tam alan türleri kümesi için SelectDB belgelerine bakın. Aşağıda desteklenen alan türlerini göstermek için SelectDB 2.2.22 kullanılmıştır.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Senkronizasyon öncesi hazırlık
DataWorks'te veri senkronizasyonu yapmadan önce, görevi yapılandırdığınızda ve çalıştırdığınızda hizmetin çalışması için SelectDB ortamını burada açıklandığı şekilde hazırlayın. Hazırlık adımları aşağıdadır.
Adım 1: SelectDB sürümünü kontrol edin
Veri Entegrasyonunun SelectDB sürüm gereksinimleri vardır. Ayrıntılar için bkz. Desteklenen SelectDB sürümleri. SelectDB konsolunda kaynağın bu gereksinimleri karşılayıp karşılamadığını kontrol edin.
Adım 2: Hesap oluşturun ve izinleri yapılandırın
DataWorks erişimi için özel bir SelectDB hesabı oluşturmanızı öneririz. SelectDB veri ambarının varsayılan yönetici kullanıcısını kullanıyorsanız bunun için bir parola ayarlayın.
Adım 3: SelectDB ağ erişimini yapılandırın
SelectDB özel ve genel ağ bağlantılarını destekler; Veri Entegrasyonu her ikisini de kullanabilir.
Özel bağlantı: Daha yüksek bant genişliği ve daha kararlı bağlantı için önerilir. İlk olarak, Ağ yapılandırması bölümünde açıklandığı gibi bir uç nokta oluşturun. Uç nokta oluşturulduktan ve durumu Creating durumundan Available durumuna, bağlantı durumu ise Connecting... durumundan Connected durumuna geçtikten sonra uç noktayı içeren VPC'yi kaynak grubunu içeren VPC ile eşleyin. Yönergeler için bkz. Ağ bağlantısı çözümleri.
Genel bağlantı: Kaynak grubunun EIP adresini SelectDB izin listesine ekleyin. Yönergeler için bkz. İzin listesi yapılandırma.
Veri kaynağı ekleme
DataWorks'te bir senkronizasyon görevi geliştirmeden önce, Veri kaynağı yapılandırması bölümündeki yönergeleri izleyerek gerekli veri kaynağını DataWorks'e eklemeniz gerekir. Bir veri kaynağı eklerken parametrelerin anlamlarını anlamak için DataWorks konsolunda parametre açıklamalarını görüntüleyebilirsiniz.
Aşağıda birkaç SelectDB veri kaynağı ayarı açıklanmaktadır:
MySQL connection address: JDBC bağlantı dizesini girin. SelectDB konsolunda yolunu izleyin ve JDBC connection string değerini kopyalayın. Genel ve özel IP adresleri desteklenir.
HTTP connection address: HTTP erişim adresini girin. SelectDB konsolunda yolunu izleyin ve HTTP access address değerini kopyalayın. Genel ve özel IP adresleri desteklenir.
Username: SelectDB veri ambarı kullanıcı adını girin.
Password: SelectDB veri ambarı kullanıcısının parolasını girin.
Veri senkronizasyon görevi geliştirme
Senkronizasyon görevini yapılandırma giriş noktası ve yordamı hakkında bilgi için aşağıdaki yapılandırma kılavuzlarına bakın.
Tek tablo çevrimdışı senkronizasyon yapılandırma kılavuzu
Yordam için bkz. Kodsuz UI yapılandırması ve Komut dosyası modu yapılandırması.
Tüm komut dosyası modu parametreleri ve örnek bir komut dosyası için bkz. Ek: SelectDB örnek komut dosyası ve parametre açıklamaları.
Tüm veritabanı çevrimdışı senkronizasyon yapılandırma kılavuzu
Desteklenen kaynak veritabanları: MySQL ve PostgreSQL.
Yordam için bkz. Toplu veritabanı senkronizasyonu yapılandırması.
Ek: SelectDB örnek komut dosyası ve parametre açıklamaları
Kod düzenleyici kullanarak toplu senkronizasyon görevi yapılandırma
Toplu senkronizasyon görevini kod düzenleyici kullanarak yapılandırmak istiyorsanız, birleşik komut dosyası biçimi gereksinimlerine göre ilgili parametreleri komut dosyasında yapılandırmanız gerekir. Daha fazla bilgi için bkz. Komut dosyası modu yapılandırması. Aşağıdaki bilgiler, kod düzenleyici kullanarak toplu senkronizasyon görevi yapılandırırken veri kaynakları için yapılandırmanız gereken parametreleri açıklar.
Örnek Writer komut dosyası
{ "stepType": "selectdb",//Plug-in name。 "parameter": { "postSql"://SQL statements to run after the synchronization task。 [], "preSql": [],//SQL statements to run before the synchronization task。 "datasource":"selectdb_datasource",//Data source name。 "table": "selectdb_table_name",//Table name。 "column": [ "id", "table_id", "table_no", "table_name", "table_status" ], "loadProps":{ "format":"csv",//Specify CSV format "column_separator": "\\x01",//Specify the column delimiter "line_delimiter": "\\x02"//Specify the row delimiter } }, "name": "Writer", "category": "writer" }
Writer komut dosyası parametreleri
|
Parametre |
Açıklama |
Gerekli |
Varsayılan değer |
|
datasource |
Veri kaynağı adı. Komut dosyası modu veri kaynağı eklemeyi destekler; bu değer, eklenen veri kaynağının adıyla eşleşmelidir. |
Evet |
Yok |
|
table |
Senkronize edilecek tablonun adı. |
Evet |
Yok |
|
column |
Virgülle ayrılmış olarak hedef tabloya yazılacak alanlar. Örneğin, |
Evet |
Yok |
|
preSql |
Senkronizasyon görevinden önce çalıştırılacak SQL deyimleri. Sihirbaz modu yalnızca bir deyimi destekler; komut dosyası modu, yazmadan önce eski tablo verilerini temizleme gibi birden çok deyimi destekler. |
Hayır |
Yok |
|
postSql |
Senkronizasyon görevinden sonra çalıştırılacak SQL deyimleri. Sihirbaz modu yalnızca bir deyimi destekler; komut dosyası modu, zaman damgası ekleme gibi birden çok deyimi destekler. |
Hayır |
Yok |
|
maxBatchRows |
Toplu iş başına içe aktarılan maksimum satır sayısı. batchSize ile birlikte toplu iş boyutunu kontrol eder. Eşiklerden herhangi birine ulaşıldığında içe aktarma başlar. |
Hayır |
500000 |
|
batchSize |
Toplu iş başına içe aktarılan maksimum veri miktarı. maxBatchRows ile birlikte toplu iş boyutunu kontrol eder. Eşiklerden herhangi birine ulaşıldığında içe aktarma başlar. |
Hayır |
94371840 |
|
maxRetries |
Bir toplu iş içe aktarması başarısız olduktan sonraki yeniden deneme sayısı. |
Hayır |
3 |
|
labelPrefix |
Yüklenen her toplu işin etiketi için ön ek. Nihai etiket, genel olarak benzersiz bir etiket sağlamak ve yinelenen içe aktarmaları önlemek için |
Hayır |
datax_selectdb_writer_ |
|
loadProps |
COPY INTO istek parametreleri, esas olarak içe aktarma veri biçimini yapılandırmak için kullanılır. JSON varsayılandır. loadProps atlanırsa veya
CSV'yi içe aktarmak için biçimi ve satır/sütun sınırlayıcılarını aşağıdaki gibi belirtin. Sınırlayıcıları atlarsanız veriler dizelere dönüştürülür ve SelectDB'ye içe aktarılan CSV dosyasını oluşturmak için sütun sınırlayıcısı olarak
|
Hayır |
Yok |
|
clusterName |
SelectDB Cloud küme adı. Bunu SelectDB konsolu konsolunda bulabilirsiniz. |
Hayır |
Yok |
|
flushInterval |
Milisaniye cinsinden veri yazma toplu işleri arasındaki süre. maxBatchRows ve batchSize çok yüksek ayarlanırsa, yapılandırılan veri hacmine ulaşmadan önce geçen süreye bağlı olarak veriler içe aktarılabilir. |
Hayır |
30000 |