全部產品
Search
文件中心

E-MapReduce:Sqoop常見問題

更新時間:Jul 01, 2024

本文匯總了Sqoop使用時的常見問題。

匯入RDS資料至EMR時,時間欄位顯示提前8小時如何處理?

  • 問題描述:

    1. 例如,在雲資料庫RDS資料來源中,資料表test_table中包含時間戳記(TIMESTAMP)欄位。image

    2. 您可以執行以下命令,匯入test_table中的資料至HDFS。

      sqoop import \
      --connect jdbc:mysql://rm-2ze****341.mysql.rds.aliyuncs.com:3306/s***o_sqoop_db \
      --username s***o \
      --password ****** \
      --table test_table \
      --target-dir /user/hadoop/output \
      --delete-target-dir \
      --direct \
      --split-by id \
      --fields-terminated-by '|' \
      -m 1
    3. 查詢匯入結果。

      查詢結果顯示,HDFS中匯入資料的時間欄位顯示提前8小時。image

  • 解決方案:在使用TIMESTAMP欄位匯入資料至HDFS時,請刪除--direct參數。

    sqoop import \
    --connect jdbc:mysql://rm-2ze****341.mysql.rds.aliyuncs.com:3306/s***o_sqoop_db \
    --username s***o \
    --password ****** \
    --table test_table \
    --target-dir /user/hadoop/output \
    --delete-target-dir \
    --split-by id \
    --fields-terminated-by '|' \
    -m 1

    查詢結果顯示正常。image