Japanese
DeepInfraは、米国以外では初の海外展開となる、世界で9番目の施設となるトロントの新しいAIデータセンターを正式に開設しました。7月8日に発表されたこの新しい拠点は、AIの需要がモデルトレーニングから商用推論ワークロードへと広範な業界シフトが進む中、DeepInfraのグローバル推論インフラストラクチャのフットプリントを拡大します。
トロントのデータセンターは1.7MWの電力容量を備え、1,000基以上のNVIDIA Blackwell B300 GPUを収容します。本格稼働により、新しいコンピューティングクラスターはDeepInfraのグローバル推論規模を拡大し、カナダおよびその他のグローバル地域のエンドユーザーにネットワーク遅延の削減を提供します。
この拡張は、明確な業界全体の移行と一致しています。企業が生成AIツールの本番展開を加速するにつれて、データセンターインフラストラクチャの需要は、トレーニングタスクよりも推論ワークロードにますます焦点を移しています。大規模言語モデルの推論には、一貫したGPU可用性、低遅延ネットワーキング、地理的に分散されたインフラストラクチャが必要であり、インタラクティブアプリケーション、インテリジェントAIエージェント、および高スループットAPIサービスを強化します。発表で参照されたMcKinsey & Companyの調査によると、推論ワークロードは2030年までにデータセンター全体の需要の40%を超え、年平均成長率は35%になると予測されています。
DeepInfraは、トロントの展開がこれらの進化するニーズを満たすために特別に構築されており、GPUコンピューティングリソースをエンドユーザーやローカルデータソースに近づけ、プラットフォーム全体の全体のスループットを拡大すると述べています。同社は、200以上のオープンソースAIモデルをサポートするGPUインフラストラクチャスタック全体を独立して所有および運用しています。同社のマネージド推論プラットフォームは、オープンおよびプロプライエタリモデルの両方の展開をカバーし、毎週約5兆トークンを処理します。
このローンチはまた、最新の推論インフラストラクチャにおけるNVIDIAのBlackwellアーキテクチャの業界採用の増加を強調しています。以前のHopper世代のハードウェアと比較して、Blackwell GPUは、大規模言語モデルおよびマルチモーダルAIワークロードに対して、推論スループットの向上とエネルギー効率の改善を提供します。DeepInfraはネットワーキングおよびストレージアーキテクチャに関する詳細を明らかにしていませんが、この規模の大規模展開では、GPUの利用率を完全に維持するために、通常、高帯域幅の相互接続と分散ストレージが活用されます。
DeepInfraのCEO兼共同創設者であるNikola Borisovが指摘したように、エンタープライズAIは実験的な試みから大規模な本番展開へと移行しており、低遅延でスケーラブルな推論機能を備えたグローバルに分散されたインフラストラクチャへの需要が高まっています。彼は、トロントクラスターが同社にとって米国国境を越えた最初の国際展開であり、グローバル顧客とそのデータセットに近接したコンピューティングリソースを配置していると説明しました。
トロント施設は、DeepInfraの最近のシリーズB資金調達ラウンドに続くものであり、長期的なインフラストラクチャ拡張ロードマップの重要な部分を占めています。同社は、GPU搭載推論サービスに対する市場の需要の高まりに対応するため、追加の国際データセンターサイトを評価していることを確認しています。
北京千行捷通科技有限公司
Sandy Yang/グローバル戦略ディレクター
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
ビジネスフォーカス:
ICT製品流通/システムインテグレーション＆サービス/インフラストラクチャソリューション
20年以上のIT流通経験を持ち、主要なグローバルブランドと提携して、信頼性の高い製品とプロフェッショナルサービスを提供しています。
「テクノロジーでインテリジェントな世界を構築する」あなたの信頼できるICT製品サービスプロバイダー！
Sandy Yang/グローバル戦略ディレクター
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
ビジネスフォーカス:
ICT製品流通/システムインテグレーション＆サービス/インフラストラクチャソリューション
20年以上のIT流通経験を持ち、主要なグローバルブランドと提携して、信頼性の高い製品とプロフェッショナルサービスを提供しています。
「テクノロジーでインテリジェントな世界を構築する」あなたの信頼できるICT製品サービスプロバイダー！