DapuStor J5060 仕様

DapuStor J5060 パフォーマンス

チェックポインティング

AIトレーニング環境におけるDapustor J5060 SSDの実際のパフォーマンスを評価するために、Data and Learning Input/Output（DLIO）ベンチマークツールを使用しました。Argonne National Laboratoryによって開発されたDLIOは、ディープラーニングワークロードにおけるI/Oパターンをテストするために特別に設計されています。ストレージシステムがチェックポインティング、データ取り込み、モデルトレーニングなどの課題をどのように処理するかについての洞察を提供します。以下のグラフは、両方のドライブが99回のチェックポイント全体でプロセスをどのように処理するかを示しています。機械学習モデルをトレーニングする際、チェックポイントはモデルの状態を定期的に保存するために不可欠であり、中断中または停電中の進捗の損失を防ぎます。このストレージ需要は、特に持続的または集中的なワークロードの下で、堅牢なパフォーマンスを必要とします。

この作業のために選択されたプラットフォームは、Ubuntu 22.04.02 LTSを実行するDell PowerEdge R760でした。DLIOベンチマークバージョン2.0（2024年8月13日リリース）を使用しました。システム構成を以下に示します。

• 2 x Intel Xeon Gold 6430 (32コア, 2.1GHz)
• 16 x 64GB DDR5-4400
• 480GB Dell BOSS SSD
• Serial Cables Gen5 JBOF
  • 61.44TB Dapustor J5060
  • 61.44TB Solidigm D5-P5336

ベンチマークが実際のシナリオを反映するように、LLAMA 3.1 405Bモデルアーキテクチャに基づいたテストを実施しました。torch.save()を使用してモデルパラメータ、オプティマイザ状態、レイヤー状態をキャプチャするためにチェックポインティングを実装しました。セットアップは8GPUシステムをシミュレートし、8つのGPUに分散された4ウェイテンソル並列および2ウェイパイプライン並列処理によるハイブリッド並列戦略を実装しました。この構成により、チェックポイントサイズは1,636GBとなり、最新の大規模言語モデルトレーニング要件を代表するものです。

全体として、Dapustor J5060はテストの初期段階で堅調な一貫性を示し、最初の33回のチェックポイントで約575.66秒の時間を維持しました。5060Jは、ドライブが初めて満杯になる前に、より高いパフォーマンスを維持することができました。一方、Solidigm P5336は、当初J5060よりも遅かったものの、テストが続くにつれて一貫したパフォーマンスを示しました。

全体平均を考慮すると、Dapustor J5060は769.44秒のタイムを記録し、Solidigm P5336は640.17秒で終了しました。これにより、Solidigm P5336はチェックポイントの保存速度において先行しています。全体として、Dapustor J5060は短い操作にはうまく対応しますが、30分を超える持続的な書き込みには苦労します。一方、Solidigm P5336は、長時間のタスク全体で一貫したパフォーマンスを発揮する優れたドライブです。Dapustor J5060のこの弱い書き込みパフォーマンスは、テストが続くにつれてチェックポインティング速度が低下することから明らかです。GPU Direct StorageGPU Direct Storageは、CPUとシステムメモリをバイパスして、ストレージデバイスとGPU間の直接データ転送を可能にするテクノロジーです。従来のデータ転送では、データはストレージからCPUのメモリに読み込まれ、その後GPUのメモリにコピーされます。このプロセスには複数のデータコピーが含まれ、レイテンシの増加とパフォーマンスの低下につながります。CPUは、ストレージとGPU間のデータ転送を処理する必要があるため、ボトルネックとなります。GDSは、ストレージデバイスがGPUのメモリとの間で直接データを転送できるようにすることで、このボトルネックを排除します。 以下のパラメータのすべての組み合わせを、読み取りおよび書き込みワークロードで体系的にテストしました。ブロックサイズ: 1M, 128K, 16K

IO深度: 128, 64, 32, 16, 8, 4, 1

GDSIOの結果を確認する際に、61.44TBのDapustor J5060とSolidigm P5336の読み取りおよび書き込みパフォーマンスを調べます。

GDSIO シーケンシャル読み取りパフォーマンス

Dapustor J5060は、1MブロックサイズでIO深度が64および128の場合、最大読み取りスループット4.2 GiB/sを達成します。最小ブロックサイズ（16K）では、IO深度が増加するにつれてパフォーマンスは0.1 GiB/sから0.8 GiB/sの範囲になります。これは、最適なスループットのために大きなブロックサイズと高いIO深度を明確に好むことを示しています。ピークパフォーマンスは大きなブロックサイズで達成され、ドライブがバルクデータ転送を効率的に処理できることを示しています。

• 比較すると、Solidigm P5336は同じブロックサイズ（1M）で同様の最大スループット4.3 GiB/sに達しましたが、IO深度32でより早くそのパフォーマンスを達成し、より高いIO深度で一貫して維持しました。これは、Solidigm P5336がより広い範囲のIO深度で大きなブロックサイズを処理する効率がわずかに優れていることを示唆しています。
• より良い比較ビューを提供するために、両方のドライブを比較する差分チャートを用意しました。より緑色のブロックはDapustor SSDの利点を示し、スペクトルの赤色側に移動するブロックは弱点を示します。ここでは、J5060は、4から8のIO深度を除く128KブロックサイズでP5336を上回っています。しかし、16Kおよび1Mのブロックサイズでは、IO深度が高くなるとスループットの低下が認められ、これらのシナリオでの効率が低いことを示しています。

シーケンシャル読み取りレイテンシの比較では、Solidigm P5336は、ほぼすべてのブロックサイズとIO深度でDapustor J5060よりも一貫して低いレイテンシを維持しています。16Kブロックサイズでは、キュー深度が増加するにつれてギャップがより顕著になります。J5060は深度128で2,329 μsにピークしますが、P5336は1,365 μsと低く抑えられています。128Kでは、Solidigmはほとんどの深度で再びリードしていますが、高負荷時（J5060で4,080 μs、P5336で5539 μs）の深度128では例外です。1Mブロックサイズでは、両方のドライブは予想どおりレイテンシの増加を経験しますが、P5336は最も高いキュー深度で29,138 μs対29,512 μsと、わずかに良好に制御されています。

GDSIO シーケンシャル書き込みパフォーマンス

Dapustor J5060は、すべてのIO深度（128K、1 IO深度サイズを除く、2.2GiB/sを記録）で、128Kおよび1Mブロックサイズで2.7～2.8 GiB/sの一貫した書き込みスループットを示します。16Kブロックサイズでは、パフォーマンスはIO深度に応じて0.5 GiB/sから1.4 GiB/sの範囲になり、高いIO深度で1.4 GiB/sにピークします。

比較すると、Solidigm P5336は128Kおよび1Mブロックサイズでより優れたパフォーマンスを発揮し、3.2GiB/sにピークします。より小さなブロックサイズ（16K）では、Solidigm P5336もより高いパフォーマンスを示し、IO深度16～64でピーク1.4 GiB/sに達します。これは、Solidigm P5336が書き込み操作中に小さなブロックサイズを処理する効率がわずかに優れていることを示しています。

差分ビューに移行すると、Dapustor J5060とSolidigm P5336の書き込みパフォーマンスとの間に大きなギャップが開いていることがわかります。スループット比較では、J5060はほとんどの領域、特にすべてのIO深度で大きなブロックサイズ（1M）でP5336に遅れをとっています。スループットの低下は、4 IO深度で-0.5 GiB/sに達します。128KブロックサイズでIO深度が高くなるとパフォーマンスが向上する領域もありますが、広範なパフォーマンス不足を相殺するには十分ではありません。

Dapustor J5060とSolidigm P5336のシーケンシャル書き込みレイテンシを比較すると、両方のドライブは16Kのような小さなブロックサイズで同様の動作を示し、Solidigmは低いIO深度でわずかに優位に立ちますが、Dapustorは高い深度（64および128）でギャップを縮めます。128Kブロックサイズでは、Solidigmは浅いキュー深度で再びリードしますが、DapustorはIO深度が増加するにつれて一貫して低いレイテンシを提供し、負荷下でのスケーリングが優れていることを示しています。しかし、1Mブロックサイズでは、SolidigmはすべてのIO深度で明確なレイテンシ優位性を維持し、重いシーケンシャル書き込みワークロード下で大幅に高速な応答時間を示します。全体として、Solidigmはより一貫したパフォーマンスを発揮しますが、Dapustorの強みは中程度のサイズのブロックと深いキューでより顕著です。

FIOワークロード概要

Flexible I/O Tester（FIO）は、さまざまなワークロードシナリオ下でのストレージデバイスのパフォーマンスを測定するために使用される業界標準のベンチマークツールです。その汎用性と信頼性で信頼されているFIOは、実際の条件をシミュレートし、SSDの機能とパフォーマンスの限界についての洞察を提供します。StorageReviewはFIOを活用して、ワークロードパターン、ブロックサイズ、キュー深度全体のスループット、レイテンシ、IOPSを測定する包括的な分析を提供します。

適用されたワークロード:

128K シーケンシャル読み取りおよび書き込み

64K ランダム読み取りおよび書き込み

16K ランダム読み取りおよび書き込み

4K ランダム読み取りおよび書き込み

これらのワークロードは、大規模なシーケンシャル転送、データベースに典型的な集中的なランダムI/O、仮想化環境で一般的に見られる小ブロックランダムアクセスなど、幅広いエンタープライズユースケースを表しています。

• このパフォーマンスセクションでは、Dapustor J5060のパフォーマンスを、さまざまなブロックサイズとキュー深度でのシーケンシャルおよびランダムな読み取り/書き込み操作を含む主要な合成ワークロード全体で要約します。メトリックは、解析されたfio出力から直接抽出され、帯域幅（MB/s）、IOPS、および最大99.9999%までのレイテンシパーセンタイルが含まれ、負荷下でのスループットとテールビヘイビアの両方についての洞察を提供します。
• 128K シーケンシャル読み取りおよび書き込みパフォーマンス
• ドライブ
• スレッド/IO深度

BW (MB/s)

IOPS

99.0%

BW (MB/s)

IOPS

99.0%

BW (MB/s)

IOPS

99.0%

Email: yangyd@qianxingdata.com

ウェブサイト: www.qianxingdata.com/www.storagesserver.com

事業内容:
ICT製品流通/システムインテグレーション＆サービス/インフラストラクチャソリューション
20年以上のIT流通経験を持ち、主要グローバルブランドと提携して信頼性の高い製品とプロフェッショナルサービスを提供しています。
「テクノロジーでインテリジェントな世界を構築する」信頼できるICT製品サービスプロバイダー！