世界的なフラッシュとメモリ部門は,週末に激しい活動を見ました マイクロンとアップルの紛争,SKハイニックスとのアントロピックのチップ調達交渉,3D DRAMの進歩,そしてサムスンのCXLメモリ・プール・イノベーション.
SKハイニクスは最近業界をリードしています シトリニの分析家Jukanは 会社が3Dスタックドラムを開発していることを確認しました3Dスタックされた DRAM-on-logic デザインエンジニアの戦略的な雇用によってサポートされています採用対象は 3D DRAM ロジック・ディースを 共同設計できる人材
新しいアーキテクチャは 3D DRAM スタックをシステム半導体プロセッサの上に置く.DRAMとロジックを単一のダイに統合することで,異なるメモリとロジックパケットの従来のパッケージ対パッケージ (PoP) 結合よりも高速なチップ間接続と低電力消費が可能になります..
この技術は,高いメモリ帯域幅と低消費電力を必要とする AI ワークロードデバイスを対象としています.スマートフォン向けモバイルアプリケーションプロセッサを挙げると,SKハイニックスにとって重要な潜在顧客としてアップルを位置づけている..
SKグループは,正式な意向書を通じてNVIDIAとの戦略的パートナーシップを拡大し,500億ドル以上の価値のコラボレーションを形成しました.SKテレコムは,世界のコンピューティング需要を満たす新しいクラウドプロバイダーとして,2ギガワットのNvidia Vera Rubin DSX AI Factoryを建設する.ヴェラ・ルービンチップはSKハイニックスHBM4メモリを採用し 2027年に最初のAIファクトリーを立ち上げることが予定されています
このパートナーシップは,主権,物理,代理,企業のAIサービスをカバーする大規模なAIインフラ開発を加速することを目的としています.韓国やアジア太平洋地域における 人工知能の需要の増加に対応しますSKハイニックスはまた,NVIDIAと長期間のAIメモリパートナーシップを設立し,SKハイニクスの生産能力を拡大しながら,NVIDIAの安定した次世代AIメモリ供給を確保する.両国はLLM訓練のためのHBMおよび他のAIメモリソリューションを共同開発および最適化します物理的なAIのシナリオです
SKグループのチェイ・テウンは,この協力により,SKハイニクスのAIメモリとSKテレコムのインフラストラクチャの強みを活用し,世界クラスのAI工場を建設すると述べた.人工知能の導入国から,世界のAIイノベーションハブへと韓国を転換する.
インテルの元CEOのパット・ゲルシンガー氏は,韓国の業界で開かれた会談会で,HBMを批判し,不完全なメモリソリューションと呼んだ.GPU エッジ・ショールラインによって制限された接続性制限効率が低下し,ビット効率が低下し,有効な動作ビットあたり約4ビットものメモリを犠牲にする.しかし,ゲルシンガー氏は,HBMは現在利用可能な最良の実行可能なソリューションであると認めました.
SKハイニクスのSVPホシク・キムはゲルシンガーの見解を部分的に支持し,HBMはAIの固有のメモリ壁のボトルネックを根本的に解決できないと述べた.彼は,HBMは一時的な緩和手段としてのみ機能すると明示した.SKハイニクスはコアメモリウォールの課題に対処するための代替ソリューションを積極的に開発している.
ブルームバーグによると,米国のAI企業であるAnthropicは SKハイニックスと 独自のAIプロセッサをサポートするための専用メモリチップの供給について交渉している.SKグループのチェイ・テイウォン会長は 2024年7月のサンフランシスコ AIサミットでこのニュースを明らかにしましたAnthropicのCEOであるダリオ・アモデイも発言し,NvidiaのGPU支配を打破するための広範な業界努力の中で,Anthropicの野心的なハードウェア開発目標を称賛した.アモデイはコメントに公に反応しなかった..
サムスンは,KVキャッシュオフロードのための外部CXLプールのメモリを使用して,AI推論ワークロードのためのほぼネイティブのDRAMパフォーマンスを達成しました.LLMは,KVキャッシュに依存し,計算された注意キーと値を保存し,推論の遅延と冗長なコンピューティングを削減します.AIプロセッサーのメモリを簡単に超えています コンピューターは,従来のSSDまたはネットワークベースのオフロードは容量制限を緩和しますが,追加のレイテンシーと帯域幅オーバーヘッドを導入します.
CXL技術は,高速帯域幅のコアレンスのPCIeインターコネクトを通じて伝統的なDRAMの物理的制約を破り,CXLスイッチを通じて複数のデバイスにスケーラブルなメモリプールを可能にします.SamsungのCMM-D (CXLメモリモジュール-DRAM) は,この拡張メモリアーキテクチャのために特別に構築されています..
サムスンは,Nvidia RTX PRO 6000 Blackwell GPU で 1TB CXL メモリープールを構築し,vLLM と LMCache ソフトウェアの最適化により CMM-D モジュールを PCIe Gen5 でテストした.テストでは,プールはDRAMに近い性能で大規模なKVキャッシュオフロードをサポートしていることが確認されました.. 単一GPUの設定では,最適化されたCXLプーリングは,LMCacheバックエンドとしてDRAMのパフォーマンスをマッチしました.より大きなメモリ容量で,ネイティブ DRAM の 92% を保持しました..
さらにテストでは,KVキャッシュの負荷が増加する512GBローカルDRAMのセットアップと1TBCXLプールを比較した.ローカル DRAM は,容量が超えるとキャッシュの再計算が繰り返されたため,性能がひどく低下しましたCXLプールは安定した性能を維持し,はるかに大きなキャッシュフットプリントをサポートした.完全なテスト詳細は,Samsungのダウンロード可能なホワイトペーパーで入手できます.
サムスンは,現在のCXLスイッチ展開には,LMCacheおよび他のコンポーネントのためのホストレベルのカーネルおよびソフトウェアの調整が必要であることを指摘している.それでも,CXL 3.0 ベースのメモリ・プールリングは強力なアプリケーション・ポテンシャルを示しているインテル DMR,AMD ベネチア,新しい CXL 3.0 スイッチプラットフォームを通じて既存の技術的限界をなくすためのエコシステム成熟が進行中です.
最後に マイクロンとアップルの間には 格差が広がっていますCitriniのJukanは,AppleがホワイトハウスにCXMT DRAMを導入する許可を求めたと明らかにした.この摩擦は マイクロンのCEOのサンジャイ・メハロトラ氏との 長年の恨みから生じていますアップルが低価格のフラッシュメモリを 強制した時現在のメモリ市場がサプライヤーに優れているため メルホトラは価格と供給の制限を Appleに緩和する意向がないと伝えられています
北京・チアンシン・ジテング・テクノロジー株式会社
サンディ・ヤン/グローバル戦略ディレクター
WhatsApp / ウェイチャット: +86 13426366826
メール: yangyd@qianxingdata.com
ウェブサイト:www.qianxingdata.com/www.storagesserver.com
ビジネス フォーカス
ICT製品配布/システム統合とサービス/インフラストラクチャソリューション
20年以上のIT販売経験を持つ私たちは 信頼性の高い製品とプロフェッショナルなサービスを提供するために グローバルブランドと提携しています
テクノロジーを使ってインテリジェントな世界を作ろう あなたの信頼できるICT製品サービスプロバイダー!
メッセージは20〜3,000文字にする必要があります。
Japanese
