このトピックでは、Alibaba Cloud Object Storage Service (OSS) と OSS-HDFS の使用方法、メリット、特徴について説明します。
制限事項
OSS は、大量のデータを保存できる、安全でコスト効率の高い、高信頼なクラウドストレージサービスです。 OSS は、99.9999999999% (トゥエルブナイン) のデータ耐久性と 99.995% のデータ可用性を提供するように設計されています。 OSS は、ストレージコストの管理と削減に役立つ複数のストレージクラスを提供します。 詳細については、「OSS とは」をご参照ください。
OSS-HDFS (JindoFS) は、クラウドネイティブなデータレイクストレージサービスです。 OSS-HDFS は、集中型メタデータ管理機能を提供し、Hadoop Distributed File System (HDFS) API と完全に互換性があります。 OSS-HDFS は、Portable Operating System Interface (POSIX) もサポートしています。 OSS-HDFS を使用して、ビッグデータおよび AI 分野のデータレイクベースのコンピューティングシナリオでデータを管理できます。 詳細については、「OSS-HDFS とは」をご参照ください。
JindoData は、Alibaba Cloud ビッグデータチームがデータレイクシステムのストレージアクセラレーションのために開発したスイートです。JindoData は、ビッグデータおよび AI シナリオにおいて、Alibaba Cloud や他のベンダーのデータレイクシステム向けにエンドツーエンドソリューションを提供します。JindoData は統一されたアーキテクチャとカーネル上に構築されており、JindoFS (ブロックストレージモード)、JindoFSx (キャッシュモード)、および JindoSDK といったコンポーネントを提供します。バージョン 5.0 以降、JindoFSx は JindoCache に名称変更されました。JindoData はまた、JindoFuse や Jindo DistCp などの完全な互換性のあるツールやプラグインも提供します。詳細については、「JindoData」をご参照ください。
注意事項
OSS または OSS-HDFS の安定性とパフォーマンスを確保するために、バージョニング機能が有効になっている OSS または OSS-HDFS バケットでは JindoSDK を使用しないことを推奨します。詳細については、「JindoSDK を使用して OSS にアクセスする際にタイムアウトエラーが発生した場合の対処方法」および「OSS-HDFS の説明」をご参照ください。
使用方法
デフォルトでは、JindoSDK は E-MapReduce (EMR) クラスターにデプロイされています。JindoSDK を使用して OSS または OSS-HDFS にアクセスできます。
他の Alibaba Cloud サービスでは、最新バージョンの JindoSDK JAR パッケージをダウンロードして JindoSDK をインストールし、使用することができます。詳細については、「EMR 以外の環境に JindoSDK をデプロイする」をご参照ください。
メリット
OSS または OSS-HDFS を基盤となるストレージサービスとして使用すると、次のメリットがあります:
すぐに使用可能。OSS と OSS-HDFS はクラウドネイティブなストレージサービスです。サービスをデプロイすることなく、RESTful API を呼び出すだけで OSS と OSS-HDFS を使用できます。デフォルトでは、JindoSDK は EMR クラスターにデプロイされています。JindoSDK を使用して OSS または OSS-HDFS にアクセスできます。
コスト効率。OSS または OSS-HDFS を使用してストレージコストを削減できます。OSS と OSS-HDFS は、低頻度アクセス (IA)、アーカイブ、コールドアーカイブなど、さまざまなストレージクラスを提供しており、データの保存に使用できます。これにより、コールドデータのストレージコストを削減できます。
高い拡張性。OSS と OSS-HDFS は高い拡張性を備えています。OSS または OSS-HDFS のストレージ容量はハードディスク容量に制限されません。ストレージ容量を手動で拡張する必要はありません。
特徴
次の表では、OSS と OSS-HDFS の特徴の違いについて説明します。
シナリオ | 特徴 | OSS | OSS-HDFS |
ビッグデータのシナリオ (Hadoop) | ファイルとディレクトリの操作、および関連操作 | サポート | サポート |
ファイルとディレクトリへの権限付与 | 未サポート | サポート | |
ディレクトリのアトミック操作および名前変更操作 | サポート (パフォーマンスが低い) | サポート (ミリ秒単位の名前変更操作) | |
setTimes による時刻指定 | 未サポート | サポート | |
拡張属性 (XAttrs) | 未サポート | サポート | |
ACL | 未サポート | サポート | |
オンプレミスにおける読み取りキャッシュの高速化 | サポート | サポート | |
スナップショット | 未サポート | サポート | |
フラッシュ、同期、トランケート、追記などのファイル関連操作 | 未サポート | サポート | |
ファイルのトランケート操作 | 未サポート | サポート | |
チェックサム検証 | サポート | サポート | |
HDFS のごみ箱の自動クリーンアップ | 未サポート | サポート | |
AI のシナリオ (POSIX) | メタデータ整合性 | 弱い | 強い |
フラッシュ、同期、追記などのファイル関連操作 | サポート (ただし、操作には制限があります。詳細については、「制限」をご参照ください。) | サポート | |
ファイルのトランケート操作 | 未サポート | サポート | |
ファイルへのランダム書き込み | 未サポート | サポート |