EquinixはNVIDIAとのパートナーシップを拡大し、Together AIとの新たな協業によりEquinix Inference Exchangeを立ち上げました。このプラットフォームは、分散型エンタープライズグレードのAI推論アーキテクチャとして構築され、コンピューティングワークロードをコアデータストア、エンドユーザー、運用アプリケーションの近くに移動させます。Equinix HorizonでEquinix Fabric Oneと共に発表されたこのプラットフォームは、NVIDIAのエンタープライズハードウェア、Together AIのオープンソースモデルプラットフォーム、Equinixのグローバル相互接続インフラストラクチャを統合し、レイテンシ、データ主権、ネットワークのボトルネックを解決します。

分散推論とデータグラビティへの対応エンタープライズAIがプロトタイプから高スループットのプロダクションへと移行するにつれて、推論の配置が総コスト、応答レイテンシ、コンプライアンスを決定します。しかし、異種環境にまたがる分散インフラストラクチャの実行は、運用オーバーヘッドとネットワークの複雑さをもたらします。

Equinixは、77都市に280以上のデータセンター、230のクラウドオンランプ、10,500以上の接続エンタープライズエコシステムを活用して、これらの課題を軽減します。トップ10のAIモデルプロバイダーのうち8社と、トップ10のAIクラウドのうち9社はすでにEquinixサイト内に存在しており、このプラットフォームは分散AIパイプラインの中立的な集約レイヤーとなっています。

アーキテクチャとスタック統合Equinix Inference Exchangeは、物理インフラストラクチャ、コンピューティング、ソフトウェアの3つのレイヤーで構成されます。Equinixは、電力供給、高度な液体冷却、継続的な施設運用、およびEquinix Fabricを介したハイブリッドデータ接続をカバーする、基盤となる物理相互接続基盤を運用します。NVIDIAは、高トークンスループットと低クエリあたりの推論コストに最適化されたエンタープライズAIハードウェアで、コンピューティングおよび検証レイヤーを提供します。Together AIは、200以上のオープンソースモデルをサポートする推論サービングソフトウェアレイヤーを提供します。コンピューティング効率のための共有マルチテナントセットアップと、専用容量を必要とするワークロードのための分離されたシングルテナントデプロイメントをサポートします。

Equinix Fabricを介してルーティングされるトラフィックは、地域のユーザーの初回トークン到達時間（TTFT）を短縮し、オンプレミスストレージとモデルエンドポイント間のプライベートピアリングリンクを作成します。

エンタープライズデプロイメントのターゲットと利用可能性3つのコアデプロイメントモードがサポートされています。メトロエッジ推論は、ローカルメトロハブ内でモデルを実行し、低レイテンシAPI応答と集中管理およびプライベート相互接続を両立させます。オープンソースモデル移行は、クローズドプロプライエタリAPIからオープン基盤モデルへのスムーズな移行パスを提供し、ベンダーロックインを削減しながら既存のネットワークファブリックを再利用します。規制されたソブリンAIユースケースでは、その分散設計により、企業は定義された地理的境界内に推論とデータ処理を封じ込め、厳格なデータ居住性とガバナンスルールを満たすことができます。

Equinix、NVIDIA、Together AIの幹部は、この統合により、コンピューティングパフォーマンスと運用アジリティのバランスを取る、ベンダーに依存しない高スループットの推論ファブリックが提供されると述べています。

Equinix Inference Exchangeは、2027年第1四半期に一般エンタープライズ向けに提供開始される予定です。

北京千星捷通科技有限公司
Sandy Yang / グローバル戦略ディレクター
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
ビジネスフォーカス:
ICT製品流通/システムインテグレーション＆サービス/インフラストラクチャソリューション
20年以上のIT流通経験を持ち、グローバルをリードするブランドと提携して、信頼性の高い製品と専門的なサービスを提供しています。
「テクノロジーでインテリジェントな世界を構築する」信頼できるICT製品サービスプロバイダー！