1. Home
  2. News
  3. AI InfraのTogether AI、NVIDIA GTC 2025で即時GPUクラスターとNVIDIA Blackwell GPU拡大展開を発表
2025/03/20

Startup Portfolio

AI InfraのTogether AI、NVIDIA GTC 2025で即時GPUクラスターとNVIDIA Blackwell GPU拡大展開を発表

クラウド型のAIアクセラレーションでリードするTogether AIは、NVIDIA GTC 2025において大規模なNVIDIA Blackwell GPUの導入と「Together Instant GPU Clusters」のプレビュー版を発表しました。NVIDIAのクラウドパートナーかつGTCのゴールドスポンサーとして、Together AIはAI先端企業やエンタープライズユーザー向けに、高効率・高速・スケーラブルなAIインフラを提供しています。

 

新世代GPU:NVIDIA BlackwellとTogether Kernel Collectionで学習を強化
Together AIは、数千台規模のNVIDIA Blackwell GPUを導入し、次世代AI向けワークロードの高速化を図っています。NVIDIA HGX(™) B200を採用したTogether独自のGPUクラスターはTogether Kernel Collectionによって90%高速化し、70Bパラメータの大規模言語モデルのトレーニングで1ノードあたり15,200トークン/秒を実現するといいます。
NVIDIA Blackwell GPUは5nmプロセス技術を採用しており、前世代を最大35倍上回るFP8 Tensor Core性能が特徴です。

 

「Together Instant GPU Clusters」プレビュー版
同時にリリースされたプレビュー版の「Together Instant GPU Clusters」では、最大64基のNVIDIA Hopper GPU(80GB SXM)をオンデマンドで利用可能です。NVIDIA Quantum-2 InfiniBandとNVIDIA NVLink™による超低レイテンシ、高帯域幅の接続で、ハイスペックな演算資源を短時間で確保できます。
ユーザーはTogether AIのコンソールを通じて数分でGPUクラスターを立ち上げられるため、ピーク時の算力需要や大規模AIモデルの検証などを素早く行えます。面倒な調達プロセスを省き、研究・実験・本番ワークロードを最適なNVIDIAアクセラレーションで稼働させることが可能です。

 

Together AIが提供するGPUクラスタ構成
Instant GPU Clusters(最大64基のNVIDIA Hopper GPU) – 少数時間で立ち上げられるセルフサービス型クラスター。高速な反復や短期的な算力需要に対応。
Dedicated GPU Clusters(64~1,000基のNVIDIA GPU) – 企業の大規模なトレーニングや推論に最適化し、NVIDIA HGXアーキテクチャとTogether AIの最適化機能を統合。
Custom GPU Clusters(1,000~10万基超のNVIDIA GPU) – 多地域でのAIファクトリー構築など、超大規模AI計算環境を必要とするエンタープライズ向け。

NVIDIA AI EnterpriseやNIMとのシームレスな統合
Together AIはNVIDIA AIに最適化されたAI計算を提供するNVIDIAのクラウドパートナーでもあり、今回の更新により、NVIDIA AI Enterpriseの一部であるNVIDIA NIMマイクロサービスをbuild.nvidia.comから直接Together AI上にデプロイできるようになりました。
NVIDIA NIMはNemotron-4 340BやNVIDIA NeMo™ Retrieverなどの最先端モデルを最適化し、推論レイテンシやスループットを向上させます。Together AIのインフラとの組み合わせによって、最新のAIフレームワークで高い性能とスケーラビリティを実現できます。

Together AIは引き続きAIインフラの限界に挑戦し、高い柔軟性・性能・スケーラビリティを提供していく計画です。大規模言語モデルのトレーニングから研究開発、重要な本番環境システムの運用まで、最先端のAIによるイノベーションを支える演算リソースを提供することを目指しています。

 

Together AIについて
Together AIは、AIモデルのトレーニングや微調整、推論を行うための卓越した性能・制御性・コスト効率を提供するAIアクセラレーションクラウドのリーディングスタートアップです。多様なオープンソースおよびカスタムモデルをマルチモーダルにサポートし、プライバシーとセキュリティを重視した柔軟なデプロイオプションを備えています。オープンで透明性のあるイノベーションを推進し、AI技術をより多くの企業や開発者が活用できるよう支援しています。

 

TagsAIUnited States

関連ニュース

Contact

AT PARTNERSにご相談ください