Object Storage Service:OSS コネクタの AI/ML データセット処理におけるパフォーマンス

データセットタイプの選択

テスト概要

テストシナリオ： 内部エンドポイント および アクセラレーテッドエンドポイント を経由したデータセットオブジェクトの読み取り。

テストデータ： 約 1 TB の画像データ（1,000 万枚）、1 枚あたり平均 100 KB。

テスト環境： ネットワーク拡張型汎用 g7nex Elastic Compute Service (ECS) インスタンス（vCPU 128 個、メモリ 512 GB、内部帯域幅 160 Gbit/s）。

データセット作成方法：

• `OssIterableDataset` および `OssMapDataset` は、OSS Connector for AI/ML を使用して作成されます。

• `ossfs` と `ImageFolder` を組み合わせた方法は、ossfs を使用して作成されます。

パフォーマンステスト

trans = transforms.Compose([
    transforms.Resize(256),
    transforms.CenterCrop(224),
    transforms.ToTensor(),
    transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225])
])

def transform(object):
    img = Image.open(io.BytesIO(object.read())).convert('RGB')
    val = trans(img)
    return val, object.label

最適パフォーマンステスト

これらのテストでは、画像の前処理を含まない純粋な読み取りスループットを測定し、各アクセス方法の I/O パフォーマンスを分離して評価します。

def transform(object):
    data = object.read()
    return object.key, object.label

パフォーマンスデータの分析

ベンチマーク結果から、以下の 3 つの重要な知見が得られます：

• OSS アクセラレータ未使用時で約 80 倍の高速化： OSS アクセラレータをいずれも使用しない場合、`OssIterableDataset` および `OssMapDataset` は、`ossfs` と `ImageFolder` を組み合わせた方法を大幅に上回ります。

• OSS アクセラレータ使用時で約 18 倍の高速化： OSS アクセラレータを両方で使用すると差は縮まりますが、OSS コネクタベースのデータセットは依然として大幅な優位性を維持します。

• OSS コネクタ for AI/ML に OSS アクセラレータを追加有効化することで、さらに約 1.6 倍の向上： OSS コネクタ for AI/ML に OSS アクセラレータを併用することで、内部エンドポイント単体での性能をさらに上回るスループットが実現できます。

このスループットの差異は、各手法がオブジェクトを読み込む方式に起因します。`ossfs` は POSIX ファイルシステム呼び出しを個別の OSS API リクエストに変換するため、1 枚の画像ごとにネットワーク往復が発生します。一方、`OssIterableDataset` および `OssMapDataset` はストリーム形式でオブジェクトを読み込むため、大量のバッチにわたってリクエストごとのオーバーヘッドを均等に分散でき、テストインスタンスの 160 Gbit/s の内部帯域幅を活かした高い同時実行性を維持できます。

結論

ほとんどのモデルトレーニングワークロードには、内部エンドポイント上で OSS Connector for AI/ML と `OssIterableDataset` を組み合わせた構成をご利用ください。この組み合わせにより、追加設定なしで高いスループットを実現できます。さらにスループットを向上させるには、OSS Connector for AI/ML に OSS アクセラレータを併用してください。両者は相互に連携し、本テストで確認された最高のパフォーマンスを提供します。