ホームニュース

会社のニュース MinIO は、Nvidia GPU 推論用にペタバイト規模の MemKV キャッシュを追加します

すべての製品

棚貯蔵サーバー
(179)

華為技術の融合サーバー
(31)

Dell Poweredgeサーバー
(59)

H3Cサーバー
(31)

データ通信スイッチ
(96)

WLAN装置
(21)

スマートな無線ルーター
(17)

ハード・ドライブHDD
(78)

内部ハード・ドライブSSD
(16)

Geforceのグラフィックス・カード
(27)

INTEL CPUプロセッサ
(20)

サーバー記憶RAM
(6)

改装された貯蔵サーバー
(6)

SFPのトランシーバーモジュール
(4)

繊維のチャネルスイッチ
(125)

認証

顧客の検討

北京Qianxing Jietongの技術Co.、株式会社の販売スタッフは非常に専門および忍耐強い。それらは引用語句をすぐに提供してもいい。プロダクトの質そして包装はまた非常によい。私達の協同は非常に滑らかである。

—— 《のFestfing DVの》 LLC

私がIntel CPUおよび東芝SSDを緊急に捜していたときに、北京Qianxing Jietongの技術Co.、株式会社からのサンディは私に多くの助けを与え、私に私がすぐに必要としたプロダクトを得た。私は実際に彼女を認める。

—— キティ円

北京Qianxing Jietongの技術Co.、株式会社のサンディは私がサーバーを買う時間の構成間違いを私に思い出させることができる非常に注意深いセールスマンである。エンジニアはまた非常に専門で、すぐにテストプロセスを完了できる。

—— Strelkin Mikhail Vladimirovich

北京千星捷通との仕事は大変満足しています。製品の品質は素晴らしく、納期も常に守られています。営業チームはプロフェッショナルで、忍耐強く、私たちの質問にすべて丁寧に対応してくれます。彼らのサポートに心から感謝しており、長期的なパートナーシップを期待しています。強くお勧めします！

—— アフマド・ナビド

品質: 提供者との素晴らしい経験. MikroTik RB3011は既に使用されていましたが,非常に良い状態で,すべてが完璧に動作しています. コミュニケーションは迅速でスムーズでした.そして私の懸念はすぐに解決されました信頼性の高いサプライヤーです強くお勧めします

—— ゲラン・コレシオ

オンラインです

会社ニュース

MinIO は、Nvidia GPU 推論用にペタバイト規模の MemKV キャッシュを追加します

MinIO は、Nvidia GPU 向けに調整されたペタバイト規模の MemKV キャッシュシステムを開発し、AIStor オブジェクトストレージプラットフォーム上に展開しました。

推論を実行する GPU クラスターには、コンテキスト、ベクトル化されたトークン、および中間キーと値 (KV) ペアを保存するために高帯域幅メモリ (HBM) が必要です。 GPU HBM が飽和すると、データは CPU DRAM と NVMe SSD にカスケードされ、Nvidia BlueField-4 (BF4) DPU によって管理されます。これらの層が容量に達すると、MinIO AIStor が最後のストレージバックアップとして機能します。 Nvidia の STX アーキテクチャはこの多層キャッシュ階層を管理し、MemKV は標準に準拠して、優れた規模で GPU クラスター全体に永続的な共有コンテキストを提供します。

MinIO の共同創設者兼共同 CEO である AB Periasamy 氏は次のようにコメントしました: 「業界は何年もコンテキスト損失について問題を解決してきました。なぜなら、小規模では再計算税を吸収してしまう可能性があるからです。今日のハイパースケーラーとネオクラウドの GPU 密度が高い状況では、これはもはや実行可能ではありません。」

生成されたコンテキストを再計算すると電力が無駄になります。数千の GPU を備えたクラスターの場合、根本的な構造的非効率が生じます。大規模な推論には専用のインフラストラクチャが必要であり、MemKV はこのデータパス専用に設計されています。」

MinIO は初めて、マイクロ秒レベルの遅延マッチング推論ワークフローで GPU クラスター全体の共有コンテキストプールを有効にし、従来の外部ストレージによるミリ秒の遅延を回避します。十分なキャッシュ層がないと、GPU はコンテキストの再計算を繰り返すことでリソースを無駄にします。

128K トークンのコンテキスト長を持つ 128 GPU のデプロイメントでは、MemKV は実稼働負荷下での最初のトークンまでの時間を改善し、GPU 使用率を 50% から 90% 以上に向上させ、推定年間 200 万ドルのコンピューティングコストを節約しました。

Nvidia STX アーキテクチャ専用に構築された MemKV は、Nvidia Dynamo および NIXL キャッシュツールをサポートします。ペタバイト規模の共有コンテキストメモリを SSD レベルのコストで提供し、GPU コンピューティングリソースからキャッシュスケーリングを切り離します。その中心的な機能は以下のとおりです。

ネイティブ BF4 STX サポート: STX インフラストラクチャ内で ARM64 バイナリとして実行され、個別の x86 ストレージサーバーではなくストレージに組み込まれます。
エンドツーエンドのRDMAトランスポート: 従来のファイルおよびオブジェクトストレージプロトコルをバイパスして、RDMA 経由で GPU メモリと NVMe の間で KV キャッシュを転送します。
GPUに最適化されたブロックサイズ: 従来の 4 KB ストレージブロックの代わりに、GPU スループット要求に応じて 2 ～ 16 MB ブロックを使用します。
ワイヤースピードのパフォーマンス: Nvidia Spectrum-X イーサネットおよび PCIe Gen6 用に最適化され、物理ファブリックのスループットを最大化します。

MemKV は、RDMA 経由で NVMe SSD から AI パイプラインにデータを直接転送し、HTTP オーバーヘッド、ファイルシステム変換、中間ストレージサーバーを排除します。

MinIO は、競合するコンテキストメモリソリューションを、共有不可能なローカル NVMe (G3) と汎用共有ストレージ (G4) の 2 つのタイプに分類します。 MemKV を専用の G3.5 層として位置づけ、汎用ストレージ製品とは区別します。

同社は、レガシーベンダーのG3.5製品には依然として冗長なプロトコルノード、メタデータサービス、ファイル変換層が残っていることを強調している。これらのレイヤーは、トレーニングデータとモデルの重みの耐久性と一貫性を保証しますが、2 ～ 16 MB のデータブロックに最適化された一時的な再計算可能な KV キャッシュには不要です。

ハードウェア RAID ベンダーの GRAID とストレージ企業 WEKA も、STX 互換の KV キャッシュソリューションを提供しています。 Cloudian、Dell、DDN、Everpure、Hammerspace、Hitachi Vantara、HPE、Lightbits/ScaleFlux、NetApp、Nutanix、Peak:AIO、Pliops、VAST Data など、幅広いストレージベンダーが Nvidia STX をサポートしています。

北京乾興解放科技有限公司
サンディ・ヤン/グローバル戦略ディレクター
WhatsApp / WeChat: +86 13426366826
電子メール: yangyd@qianxingdata.com
ウェブサイト: www.qianxingdata.com/www.storagesserver.com
ビジネスの焦点:
ICTプロダクト流通/システムインテグレーション＆サービス/インフラソリューション
20 年以上の IT 流通経験を持つ当社は、主要な世界的ブランドと提携して、信頼性の高い製品とプロフェッショナルなサービスを提供しています。
「テクノロジーを活用してインテリジェントな世界を構築する」信頼できる ICT 製品サービスプロバイダー!

パブの時間 : 2026-05-14 13:46:14 >> ニュースのリスト

連絡先の詳細

Beijing Qianxing Jietong Technology Co., Ltd.

コンタクトパーソン: Ms. Sandy Yang

電話番号: 13426366826

会社のニュース MinIO は、Nvidia GPU 推論用にペタバイト規模の MemKV キャッシュを追加します

棚貯蔵サーバー

華為技術の融合サーバー

Dell Poweredgeサーバー

H3Cサーバー

データ通信スイッチ

WLAN装置

スマートな無線ルーター

ハード・ドライブHDD

内部ハード・ドライブSSD

Geforceのグラフィックス・カード

INTEL CPUプロセッサ

サーバー記憶RAM

改装された貯蔵サーバー

SFPのトランシーバーモジュール

繊維のチャネルスイッチ

棚貯蔵サーバー

12湾1Uラックマウント式サーバーLenovo ThinkSystem SR630の棚サーバー

ThinkSystem SR250 V2 4SFFの棚貯蔵サーバーIntel Xeon E-2378Gプロセッサ

Intel C621Aの棚貯蔵サーバーInspur NF5180M6 1Uのラックマウントサーバー

華為技術の融合サーバー

FusionServer 5288 V6 4Uの棚サーバー32 DDR4 DIMMs 44の3.5インチのハードディスク

超高密度華為技術の融合サーバー1Uネットワークの貯蔵サーバー1288H V5

新しいGEN OceanStor 5310華為技術の棚サーバー雑種の抜け目がない貯蔵