ApsaraDB for SelectDB:Stream Load

例: スクリプトを使用したインポート

1. データの宛先テーブルを作成します。

   1. SelectDB インスタンスに接続します。詳細については、「DMS を使用して ApsaraDB for SelectDB インスタンスに接続する」をご参照ください。

   2. 次の文を実行してデータベースを作成します。

      CREATE DATABASE test_db;

   3. 次の文を実行してテーブルを作成します。

      CREATE TABLE test_table
      (
          id int,
          name varchar(50),
          age int,
          address varchar(50),
          url varchar(500)
      )
      UNIQUE KEY(`id`, `name`)
      DISTRIBUTED BY HASH(id) BUCKETS 16
      PROPERTIES("replication_num" = "1");

2. Stream Load ターミナルが配置されているデバイスで、インポートする test.csv という名前のファイルを作成します。

   1,yang,32,shanghai,http://example.com
   2,wang,22,beijing,http://example.com
   3,xiao,23,shenzhen,http://example.com
   4,jess,45,hangzhou,http://example.com
   5,jack,14,shanghai,http://example.com
   6,tomy,25,hangzhou,http://example.com
   7,lucy,45,shanghai,http://example.com
   8,tengyin,26,shanghai,http://example.com
   9,wangli,27,shenzhen,http://example.com
   10,xiaohua,37,shanghai,http://example.com

3. データをインポートします。

   ターゲットデバイスでターミナルを開き、curl コマンドを実行して Stream Load タスクを開始し、データをインポートします。

   インポートタスクを作成するための構文とパラメーターの説明については、「インポートタスクの作成」をご参照ください。次の例は、一般的なインポートシナリオを示しています。

   • Label を使用して重複を削除し、タイムアウトを指定します。

     ファイル test.csv からデータベース test_db のテーブル test_table にデータをインポートします。Label を使用して重複したデータバッチのインポートを回避し、タイムアウトを 100 秒に設定します。

      curl --location-trusted -u admin:admin_123 -H "label:123" -H "timeout:100" -H "expect:100-continue" -H "column_separator:," -T test.csv http://selectdb-cn-h033cjs****-fe.selectdbfe.pre.rds.aliyuncs.com:8080/api/test_db/test_table/_stream_load

   • Label を使用して重複を削除し、列を使用してファイルからデータをフィルターします。

     ファイル test.csv からデータベース test_db のテーブル test_table にデータをインポートします。Label を使用して重複したデータバッチのインポートを回避し、ファイルから列名を指定し、「address」列が「hangzhou」であるデータのみをインポートします。

     curl --location-trusted -u admin:admin_123 -H "label:123" -H "columns: id,name,age,address,url" -H "where: address='hangzhou'" -H "expect:100-continue" -H "column_separator:," -T test.csv http://selectdb-cn-h033cjs****-fe.selectdbfe.pre.rds.aliyuncs.com:8080/api/test_db/test_table/_stream_load

   • 20% の許容エラー率を許可します。

     ファイル test.csv からデータベース test_db のテーブル test_table にデータをインポートし、20% のエラー率を許可します。

     curl --location-trusted -u admin:admin_123 -H "label:123" -H "max_filter_ratio:0.2" -H "expect:100-continue" -T test.csv http://selectdb-cn-h033cjs****-fe.selectdbfe.pre.rds.aliyuncs.com:8080/api/test_db/test_table/_stream_load

   • 厳格モードを使用し、タイムゾーンを設定します。

     厳格モードを使用してインポートされたデータをフィルターし、タイムゾーンを Africa/Abidjan に設定します。

     curl --location-trusted -u admin:admin_123 -H "strict_mode: true" -H "timezone: Africa/Abidjan" -H "expect:100-continue" -T test.csv http://selectdb-cn-h033cjs****-fe.selectdbfe.pre.rds.aliyuncs.com:8080/api/test_db/test_table/_stream_load

   • SelectDB のデータを削除します。

     SelectDB 内の test.csv ファイルのデータと同一のデータを削除します。

     curl --location-trusted -u admin:admin_123 -H "merge_type: DELETE" -H "expect:100-continue" -T test.csv http://selectdb-cn-h033cjs****-fe.selectdbfe.pre.rds.aliyuncs.com:8080/api/test_db/test_table/_stream_load

   • 条件に基づいてファイルから不要なデータを削除し、残りのデータを SelectDB にインポートします。

     test.csv ファイルから address 列が 'hangzhou' の行を削除し、残りの行を SelectDB にインポートします。

     curl --location-trusted -u admin:admin_123 -H "expect:100-continue" -H "columns: id,name,age,address,url" -H "merge_type: MERGE" -H "delete: address='hangzhou'" -H "column_separator:," -T test.csv http://selectdb-cn-h033cjs****-fe.selectdbfe.pre.rds.aliyuncs.com:8080/api/testDb/testTbl/_stream_load

例: Java コードを使用したインポート

package com.selectdb.x2doris.connector.doris.writer;

import com.alibaba.fastjson2.JSON;
import org.apache.http.HttpHeaders;
import org.apache.http.HttpResponse;
import org.apache.http.HttpStatus;
import org.apache.http.client.HttpClient;
import org.apache.http.client.config.RequestConfig;
import org.apache.http.client.methods.HttpPut;
import org.apache.http.entity.BufferedHttpEntity;
import org.apache.http.entity.StringEntity;
import org.apache.http.impl.client.DefaultRedirectStrategy;
import org.apache.http.impl.client.HttpClientBuilder;
import org.apache.http.impl.client.HttpClients;
import org.apache.http.protocol.RequestContent;
import org.apache.http.util.EntityUtils;

import java.io.IOException;
import java.nio.charset.StandardCharsets;
import java.util.Arrays;
import java.util.Base64;
import java.util.List;
import java.util.Map;

public class DorisLoadCase {
    public static void main(String[] args) throws Exception {

        // 1. パラメーターを設定します。
        String loadUrl = "http://<Host:Port>/api/<DB>/<TABLE>/_stream_load?";
        String userName = "admin";
        String password = "****";

        // 2. httpclient をビルドします。リダイレクト (isRedirectable) を有効にする必要があることに注意してください。
        HttpClientBuilder httpClientBuilder = HttpClients.custom().setRedirectStrategy(new DefaultRedirectStrategy() {
            // リダイレクトを有効にします。
            @Override
            protected boolean isRedirectable(String method) {
                return true;
            }
        });
        httpClientBuilder.addInterceptorLast(new RequestContent(true));
        HttpClient httpClient = httpClientBuilder.build();

        // 3. httpPut リクエストオブジェクトをビルドします。
        HttpPut httpPut = new HttpPut(loadUrl);

        // httpHeader を設定します...
        String basicAuth = Base64.getEncoder().encodeToString(String.format("%s:%s", userName, password).getBytes(StandardCharsets.UTF_8));
        httpPut.addHeader(HttpHeaders.AUTHORIZATION, "Basic " + basicAuth);
        httpPut.addHeader(HttpHeaders.EXPECT, "100-continue");
        httpPut.addHeader(HttpHeaders.CONTENT_TYPE, "text/plain; charset=UTF-8");

        RequestConfig reqConfig = RequestConfig.custom().setConnectTimeout(30000).build();
        httpPut.setConfig(reqConfig);

        // 4. 送信するデータを設定します。ここでは、CSV を書き込みます。
        // 次のフィールドを持つテーブルがあると仮定します:
        // field1,field2,field3,field4
        // これは 3 つの CSV レコードをシミュレートします。Doris では、CSV のデフォルトの行区切り文字は \n で、列区切り文字は \t です。
        // String data =
        //        "1\t2\t3\t4\n" +
        //        "11\t22\t33\t44\n" +
        //        "111\t222\t333\t444";
        // すべての行を読み取ります。
         List<String> lines = Files.readAllLines(Paths.get("your_file.csv"));
        // すべての行を \n で結合します。
        String data = String.join("\n", lines);
        
        httpPut.setEntity(new StringEntity(data));

        // 5. リクエストを送信し、結果を処理します。
        HttpResponse httpResponse = httpClient.execute(httpPut);
        int httpStatus = httpResponse.getStatusLine().getStatusCode();
        String respContent = EntityUtils.toString(new BufferedHttpEntity(httpResponse.getEntity()), StandardCharsets.UTF_8);
        String respMsg = httpResponse.getStatusLine().getReasonPhrase();

        if (httpStatus == HttpStatus.SC_OK) {
            // 戻り値をシリアル化するために、適切な JSON シリアル化コンポーネントを選択します。
            Map<String, String> respAsMap = JSON.parseObject(respContent, Map.class);
            // SelectDB から返されたステータスコードを取得します...
            String dorisStatus = respAsMap.get("Status");
            // SelectDB が次のいずれかのステータスを返した場合、データが正常に書き込まれたことを意味します。
            List<String> DORIS_SUCCESS_STATUS = Arrays.asList("Success", "Publish Timeout", "200");
            if (!DORIS_SUCCESS_STATUS.contains(dorisStatus) || !respMsg.equals("OK")) {
                throw new RuntimeException("StreamLoad failed, status: " + dorisStatus + ", Response: " + respMsg);
            } else {
                System.out.println("successful....");
            }
        } else {
            throw new IOException("StreamLoad Response HTTP Status Error, httpStatus: "+ httpStatus +",  url: " + loadUrl + ", error: " + respMsg);
        }
    }
}