会社のニュース HuaweiのOceanStor KVキャッシュストレージ、ハイパースケールAIデータセンター向け

ファーウェイは,Atlas 960 SuperPoDs用の最大64PBKVのキャッシュベース層を提供するスケールアップ可能な全フラッシュストレージクラスター OceanStor M900を発表しました.NVIDIAのSuperPODに匹敵するラックスケールAI加速器.

Nvidiaは,GPU,BlueField NIC,Spectrum-Xスイッチ,AIソフトウェアを格納システムと統合した基準設計を定義し,GPUDirect,RDMA,そしてKVキャッシュの拡張をDynamoソフトウェアとCMXスキームを通じてこの多層アーキテクチャでは,GPUの高帯域幅メモリ (HBM) が最も高速な上位レベルであり,それに続く関連X86サーバーのDRAMがレベル2であり,サーバーのローカルSSDはL3である.そしてL3として機能するフラッシュストレージサーバー内のスマートなBlueField-4 NICに接続されたNVMe SSD.5ネットワークホップでGPUのHBMに到達し マイクロ秒級の遅延が可能です

ハワイはNVIDIAのスーパーPOD設計に挑戦し ハイパースケールAIデータセンターに搭載した独自のスーパーPODを導入していますつまり,単一の加速器の高帯域幅メモリは,必要なすべてのキー値トークンを保持することはできません.,キャッシングメカニズムが必要です.

Atlas 960E SuperPoDが 4,096 NPU (ニューラル・プロセッシング・ユニット) までスケーリングでき 8 EFLOPSの FP8 コンピューティング性能を 提供できると同社は述べています1ペタバイトまでのHBM容量と256TBの統合メモリプールユニフィードバス (NPO) を搭載した5500台のHi-ONEユニットを導入することで,すべてのNPUを相互接続するために従来の48,000台の800G光学モジュールと比較して550キロワット以上の電力消費を削減できます.また,システムの無故障運転時間を2倍に増やし,99%に達します.0.8%のシステム利用率です

ハワイ オシャンスター M900
SuperPoDは多層KVキャッシングフレームワークを採用し,M900はL3.5層のペタバイトスケールKVキャッシュを供給する.各クラスタは共有L3の4PBまで提供する.5KVのキャッシュ容量と光学ネットワーク上の総帯域幅40TB/秒標準的なAI推論ワークロードでは,KVキャッシュ容量の複数のテラバイトを NPU 単位で提供します.このアーキテクチャはインファレンスクラスターのトークン処理量を倍にして,最初のトークン (TTFT) の時間を半分に短縮します.

同社は,明示的にベンダーの名前を挙げることなく,40TB/secの帯域幅が競合するソリューションの1.5倍であると指摘している. 一般的にDDN,Everpure,IBM (Storage Scale),クラスター帯域幅が10~25 TB/秒のデータシステムである MinIO と VAST.

M900は,CPU,ネットワークコントローラ,NANDコントローラを1つのユニットに統合した統合設計を備えており,SuperPoD NPUがSSDへの直接,ワンホップリンクを確立することができます.これはアクセス遅延をミリ秒から約60マイクロ秒に削減します.

ファーウェイの取締役会副会長兼輪廻会長であるデヴィッド・ワン氏は",OceanStor M900はハイブリッドメディアと最適化された保持アルゴリズムを使用し,SSDの読み書き寿命を16倍に延長している"と述べた.これは,より高いKVキャッシュヒット率を保証し,長期の安定性と信頼性を保証します....

さらに詳細に,Huaweiは,M900は,KVキャッシュデータの各セグメントの期待寿命と値を予測するKV認識適応型ストレージ技術を有すると述べています.これらの予測に基づいて,異なるメディア層にデータをスケジュールし配布しますこの最適化された配置と保持戦略により,SSDは1日24回までのドライブ書き込み (DWPD) を維持できる.16倍も SSD の耐久性を高める安定した運転を3年間サポートし,ドライブ交換が少なくなります.

M900のデータシートや テクニカルブリーフィングを公開するには まだ早いので ノード・ラック サイズ コントローラー ドライブ数量 容量などの詳細はクラスターノード数および他の仕様はまだ利用できません..

NPU 脚注
NPUは Huawei Ascend Neural Processing Unitで,Huaweiによると,AIのためにネイティブに構築されている (グラフィックチップとして生まれた GPUとは異なり).Huaweiのダ・ヴィンチアーキテクチャを採用し,キューブ (マトリックス) コアとベクトルコアFP8 と FP4 を含む低精度フォーマットをサポートし,大規模なモデルのための推論とトレーニングを加速します.論理的なマシンとして動作するNPUを数千個,あるいは数十万個までスケールすることができますアトラス350 (Ascend 950PRを使用) や,アトラス960 SuperPoDなどの最近のオファーは,中国市場におけるNvidia GPUの代替品として位置づけられている.

北京・チアンシン・ジテング・テクノロジー株式会社
サンディ・ヤン/グローバル戦略ディレクター
WhatsApp / ウェイチャット: +86 13426366826
メール: yangyd@qianxingdata.com
ウェブサイト:www.qianxingdata.com/www.storagesserver.com
ビジネス フォーカス
ICT製品配布/システム統合とサービス/インフラストラクチャソリューション
20年以上のIT販売経験を持つ私たちは 信頼性の高い製品とプロフェッショナルなサービスを提供するために グローバルブランドと提携しています
テクノロジーを使ってインテリジェントな世界を作ろう あなたの信頼できるICT製品サービスプロバイダー!