MLPerf Storage v3.0 は,既存の POSIX フレームワークに S3 データ層を追加し,新しい KV Cache とベクトルデータベース ワークロードに加えて,基準基準基準を近代的なAIデータシステム要件と緊密に一致させる.
MLCommonsによって開発されたMLPerf Storageベンチマークは,当初Unet3D,Cosmoflow,Resnet50を含む機械学習トレーニングワークロードのストレージパフォーマンスを評価しました.NVIDIA A100 と H100 GPU ハードウェアを使用. v3.0リリースには,4つのコアワークロードシナリオを中心に,包括的なテスト再編が特徴です.
更新されたテストフレームワークには Unet3D と RetinaNet をベースにした AI 訓練が含まれています. 90%以上の利用率を維持しながら 最大の加速器のスケーラビリティを測定します.NVIDIA B200 または AMD MI355 GPU でシミュレーションまた,8B から 1.25T までのパラメータの Llama 3 スタイルモデルへのチェックポイントもカバーし,繰り返しの書き込みと読み込みの 10 回の低レイテンシーを優先します. さらに,ゲノム検査は,ベクトルデータベースのテストを, 1536‐dimensional Milvus データセットで,遅延とリコールレートを追跡しながらクエリのスループットを最大化し,最大同時会話サポート能力を測定するためのKVキャッシュテスト.
MLPerf ストレージワーキンググループの共同議長である Brian Belgodere 氏は,新しいテストポートフォリオは,主流のAI 推論ストレージ需要に対するベンチマークカバーを豊かにすると述べた.更新されたパッケージは,訓練に焦点を当てたトレーニングとチェックポイントテストを,推論指向のKVキャッシュとベクターデータベース評価とバランスします.チェックポイント,KVキャッシング,ベクトルクエリ処理を含む標的型ストレージワークロード評価に統合されたAIシステムを分解することで,この基準値は,業界関係者がAIインフラストラクチャの構成を最適化し,ストレージパフォーマンス上のボトルネックを取り除くことができる.
新しく追加されたS3オブジェクトストレージレイヤは,トレーニング,チェックポイントおよび部分ベクトルデータベーステストをサポートしており,すべてのv3.0提出の約6分の1がS3ベースのストレージアクセスを採用しています.
AIのコンテキストが数兆トークンに拡大するにつれて オブジェクトストレージは伝統的なファイルシステムストレージの代替としてV3.0 のネイティブ S3 サポートは,エンタープライズ ストレージ 展開の決定を導くための透明なパフォーマンス データを提供します.
このベンチマークサイクルの結果を合計19社のベンダーが提出しました.特にDDN,Dell,Huawei,IBM,NetApp,VAST Data と WEKA は 提出 リスト に 含まれ て い ませ ん でし た.MLPerfの関係者は,伝統的なNASベンダーは参加が限られているとコメントし,ほとんどの既成企業は最新のラウンドに参加していない.
多様性のあるAIストレージ・ランドスケープを考慮すると,v3.0は単一の全体的なランキングを公表しません.その代わりに,多次元メトリクスによる4つのワークロードカテゴリーに対する独立した結果を提供します.完全な結果データセットは約145行と55列をカバーしていますKVキャッシュ性能メトリクス専用の12つの専用列で,合計約8000個のデータセルをカバーします.読み書き帯域幅とP95レイテンシー 8Bおよび70B Llamaモデルワークロードのストレージのみおよびストレージ+メモリの両方のアーキテクチャで.
MLCommonsはまた,インフラストラクチャの全体的な運用効果を測定するために,ラック密度およびワットあたりのエネルギー効率に基づいて標準化されたパフォーマンス評価を推奨しています.
アップデートされたベンチマーク・スイートは高度に複雑な評価ロジックにより,ベンダーが対象ワークロードの結果を選択的に提出できるようにしています.例えば,NewFW,Samsung,スズー・ジシャンとTTAはベクトルデータベースの試験結果を提出した..
Everpure は,405B と 1.25T パラメータモデルに対するチェックポイントと KV キャッシュテストで,FlashBlade//EXA のトップレベルのパフォーマンスを報告しました.024 シミュレーション加速器,このプラットフォームは1.25Tモデルチェックポイントで877.52Gb/sの書き込み帯域幅 (17.74s完了) と588.28Gb/sの読み込み帯域幅 (28.99s完了) を達成した.その性能は327.10ノードで65 GiB/sの書き込みスループットで最大30ノード結果.
施設内のチェックポイントの書き込み送信は,ワットあたり14GB/sのエネルギー効率を平均して,最大はワットあたり201GB/sを示しています.UNet3Dの読み込みテストでは,ワットあたり34GB/sとワットあたり最大277GB/sのメディアン効率が記録されました.
北京・チアンシン・ジテング・テクノロジー株式会社
サンディ・ヤン/グローバル戦略ディレクター
WhatsApp / ウェイチャット: +86 13426366826
メール: yangyd@qianxingdata.com
ウェブサイト:www.qianxingdata.com/www.storagesserver.com
ビジネス フォーカス
ICT製品配布/システム統合とサービス/インフラストラクチャソリューション
20年以上のIT販売経験を持つ私たちは 信頼性の高い製品とプロフェッショナルなサービスを提供するために グローバルブランドと提携しています
テクノロジーを使ってインテリジェントな世界を作ろう あなたの信頼できるICT製品サービスプロバイダー!
メッセージは20〜3,000文字にする必要があります。
Japanese
