Apsara File Storage for HDFS は、Hadoop 分散ファイルシステム (HDFS) と同一のインターフェイスを提供するクラウドファイルストレージサービスです。MapReduce、Hive、Spark、Flink のジョブは、コード変更や再コンパイルを伴わず、デフォルトのファイルシステムとしてこのサービスに接続できます。
主な機能:
無制限の容量と、容量に比例した線形スケーリングによるパフォーマンス
Elastic Compute Service (ECS) インスタンスおよび Container Service からの高スループット・高 IOPS・低レイテンシーなアクセス
複数の計算ノード間で共有される一意の名前空間
99.999999999 %(11 個の 9)のデータ耐久性
ネットワーク分離、セキュリティグループ、RAM ユーザーによる権限付与
デフォルトの従量課金方式に加え、追加割引が適用されるサブスクリプション(リソースプラン)も利用可能
適用範囲/利用シーン
Apsara File Storage for HDFS は、ビッグデータ分析や機械学習など、継続的な高スループットを要するワークロードに適しています。ECS インスタンスその他の計算リソースは、保存されたデータに直接アクセスでき、処理前にローカル記憶域へのデータコピーを行う必要はありません。Hadoop や機械学習アプリケーションを複数の計算ノードに展開し、同一のファイルシステムに対してオンラインまたはオフラインコンピューティングジョブを実行できます。また、処理結果をファイルシステムへエクスポートして永続的に保存することも可能です。
パフォーマンス
パフォーマンスの主要な評価指標はスループットです。ファイルシステムの実用可能なスループットは、接続された ECS インスタンスの最大帯域幅によって制限されます。たとえば、1.5 Gbit/s の帯域幅を持つ ECS インスタンスでは、ファイルシステムの最大スループットは 187.5 Mbit/s となります。スループットはファイルシステムの容量に比例して線形にスケールし、容量を増加させることで利用可能なスループットが直接向上します。
データ耐久性および可用性
Apsara File Storage for HDFS では、すべてのファイルについて複数のレプリカを保存します。これらのレプリカは、地理的冗長性を確保するために、異なる障害ドメインに隔離されたデバイス上に配置されます。これにより、99.999999999 %(11 個の 9)のデータ耐久性を実現しています。
セキュリティ
Apsara File Storage for HDFS では、以下の 5 つの補完的なメカニズムを用いてデータを保護します。
| メカニズム | 説明 |
|---|---|
| ネットワーク分離 | Virtual Private Cloud (VPC) 内でファイルシステムを分離します |
| クラシックネットワークにおけるユーザー分離 | クラシックネットワーク環境でのアクセスを制御します |
| ファイルシステムの権限制御 | ファイルシステム向けの標準的な権限制御 |
| セキュリティグループによるアクセス制御 | セキュリティグループを用いてネットワークレベルでアクセスを制限します |
| RAM ユーザーによる権限付与 | RAM ユーザーに対して細かい粒度の権限を付与します |
SDK およびコンソール
Apsara File Storage for HDFS では、以下の 2 種類の管理インターフェイスを提供します。
SDK — Apsara File Storage for HDFS 向け Java SDK(
aliyun-sdk-dfs-x.y.z.jar)は、Hadoop 互換のファイルシステム操作を実装しています。MapReduce、Hive、Spark、Flink 上で構築されたアプリケーションは、この SDK を使用することで、コードの変更や再コンパイルを行わずに、Apsara File Storage for HDFS をデフォルトのファイルシステムとして切り替えることができます。コンソール — Apsara File Storage for HDFS コンソールを使用すると、グラフィカルな Web インターフェイスからファイルシステムの作成および管理が可能です。
課金
Apsara File Storage for HDFS は、ファイルシステムの容量および事前に設定したスループットに基づいて課金されます。
| 課金方法 | 説明 |
|---|---|
| 従量課金 | 使用したリソースに基づき、時間単位で課金されます。デフォルトの課金方法です。 |
| サブスクリプション(リソースプラン) | 単位価格を割引した状態で、事前に容量を購入できます。 |