在EMR Hive或Spark中訪問OSS-HDFS - Object Storage Service

EMR-3.42及後續版本或EMR-5.8.0及後續版本的叢集，支援OSS-HDFS（JindoFS服務）作為資料存放區，提供緩衝加速服務和Ranger鑒權功能，使得在Hive或Spark等巨量資料ETL情境將獲得更好的效能和HDFS平遷能力。本文為您介紹E-MapReduce（簡稱EMR）Hive或Spark如何操作OSS-HDFS。

前提條件

已為Bucket開通並授權訪問OSS-HDFS服務。具體操作，請參見開通OSS-HDFS服務。
阿里雲帳號預設擁有通過EMR叢集的方式接入OSS-HDFS服務並執行常見操作的許可權。如果您希望通過RAM使用者接入OSS-HDFS服務，RAM使用者需要具備對應的許可權要求，詳情請參見授權RAM使用者通過EMR叢集接入OSS-HDFS服務。

背景資訊

OSS-HDFS服務是一款雲原生資料湖儲存產品，基於統一的中繼資料管理能力，在完全相容HDFS檔案系統介面的同時，提供充分的POSIX能力支援，能更好的滿足巨量資料和AI領域豐富多樣的資料湖計算情境，詳細資料請參見什麼是OSS-HDFS服務。

操作步驟

說明本樣本以Hive操作OSS-HDFS為例介紹。您也可以參照此方式使用Spark操作OSS-HDFS。

登入叢集，具體操作請參見登入叢集。
建立指向OSS-HDFS的Hive表。
1. 執行以下命令，進入Hive命令列。
```
hive
```
2. 執行以下命令，建立指向OSS-HDFS的資料庫。
```
CREATE DATABASE if not exists dw LOCATION 'oss://{yourHdfsBucketDomain}/{path}';
```
  參數說明：
  - dw: 資料庫名（可自訂）。
  - {path}: 資料庫在OSS-HDFS中儲存的路徑（可自訂）。
  - {yourHdfsBucketDomain}: OSS-HDFS服務的Bucket網域名稱。
    - 擷取路徑：OSS管理主控台 > 進入目標Bucket > 概覽 > 訪問連接埠，複製HDFS服務對應的完整Bucket網域名稱。
  說明
  本樣本使用OSS-HDFS的網域名稱作為路徑的首碼。如果您希望只使用Bucket名稱來指向OSS-HDFS，則可以配置Bucket層級的Endpoint或全域Endpoint，具體操作請參見附錄一：配置Endpoint的其他方式。
3. 執行以下命令，使用新建立的資料庫。
```
use dw;
```
4. 執行以下命令，在建立的資料庫下建立表。
```
CREATE TABLE IF NOT EXISTS employee(eid int, name String,salary String,destination String)
COMMENT 'Employee details';
```
向表中插入資料。
使用INSERT INTO語句向表寫入資料，該語句會產生MapReduce作業。
```
INSERT INTO employee(eid, name, salary, destination) values(1, 'liu hua', '100.0', '');
```

驗證表資料。

SELECT * FROM employee WHERE eid = 1;

返回資訊中會包含插入的資料。

OK
1       liu hua 100.0
Time taken: 12.379 seconds, Fetched: 1 row(s)