会社のニュース Instinctive と EPYC; VAST Data は AMD の CPU/GPU の連携を広める

ジョン・マオ

主要な拡張協力の柱

• -VASTは、VAST AI OSの基盤となる第6世代CBoxおよび第3世代EBoxプラットフォームに電力を供給するために、第6世代AMD EPYC（コードネームVenice）を採用します。第6世代EPYCはPCIe Gen 6を特徴とし、VAST DataBaseおよびDataEngineバックAIデータサービス（データベース、データウェアハウス、イベントストリーミングを含む）のために、PCIe Gen 5よりも2倍のI/O帯域幅と低遅延を提供します。
• -VAST、AMD、およびDriveNetsが共同開発した3者間のAIインフラストラクチャリファレンスアーキテクチャ。AMD Heliosラック規模AIハードウェア、VAST AI OS、およびDriveNets AI Fabricネットワーキングを組み込んでいます。このブループリントは、トレーニング、推論、強化学習、およびKVキャッシュワークロードのインフラストラクチャサポート、さらにAIファクトリーを構築するチーム向けのサイジングガイダンスを詳細に説明しています。
• -エージェンティックAI向けに最適化された本番グレードの推論スタックを加速するための、TensorMesh、EmbeddedLLM、その他のベンダーとのより広範なエコシステムパートナーシップ。
• -AMD Instinct GPU、Infinity Context、ROCmソフトウェア、およびVAST AI OSを統合した新しいKVキャッシュおよび推論の最適化。
• -自動KVキャッシュライフサイクル管理：機密性の高い個人データを含むキャッシュのクリアは、エンタープライズコンプライアンスに大きなハードルをもたらします。統合スタックは、VASTのネイティブデータライフサイクルルールを活用してKVキャッシュデータを自動的に期限切れにし、消去することで、手動の管理作業なしに堅牢なセキュリティ、プライバシー、および規制コンプライアンスを提供します。
• -AMD Pensando Pollara 400 AI NICは、Instinct GPUをVAST AI OSに接続する高速データパスを作成します。NFS over TCPおよびRDMAをサポートし、GPUメモリとVASTのNVMe SSDストレージクラスター間でデータをシームレスに転送し、大規模な推論およびエージェンティックAIに不可欠なKVキャッシュおよびストレージアクセスに電力を供給します。
• -5C、Core42、Crusoe、EmbeddedLLM、Phanos.AI、TensorWave、Vultrを含む、世界中でAMDベースのAIサービスを提供する主要なAIクラウドプロバイダー全体での検証済みデプロイメント。