AIクラウドのTogether AI、IBMと2.4億ドルの複数年契約を締結しNVIDIA B300による大規模オープンモデル推論基盤を構築

Together AIはIBMと2億4,000万ドル規模の複数年契約を締結し、IBM Cloud上にNVIDIA HGX B300システムを使った大規模AI推論クラスターを構築します。2027年第1四半期の利用開始を予定しており、Together AIはこの基盤を利用して企業向けにオープンソースAIモデルの推論サービスを提供します。IBM CloudでHGX B300を使って構築される初の専用大規模推論クラスターとなります。

新しいクラスターにはNVIDIA HGX B300とSpectrum-X Ethernetが採用され、高スループットでリアルタイムのAI推論処理を行う設計です。Together AIは現在、推論、学習、ファインチューニング、強化学習、AIエージェント向けワークフローなどを提供するAI Native Cloudを運営し、推論サービスでは月間400兆トークンを処理しているとしています。今回の契約では、モデルの学習よりも、商用環境で大量の推論を低コストに実行するための「token economics」が重要なテーマとなっています。

企業による生成AI導入がPoCから本番運用へ移るなか、AIインフラの焦点も巨大モデルの学習から継続的な推論コストへ移りつつあります。Together AIはオープンモデルを企業が選択・カスタマイズできる点を強みにしており、IBMのエンタープライズクラウドとNVIDIAの最新GPUを組み合わせることで、閉鎖型モデルに対する代替インフラを構築します。AIモデル市場に加えて、推論を誰が最も低コストかつ安定して提供できるかというインフラ競争が激しくなっていることを示しています。

Together AIについて
Together AIとは、2022年に設立されたAIインフラ企業です。Vipul Ved Prakash、Ce Zhang、Chris Ré、Tri Dao、Percy Liangらが創業メンバーとして参加しています。オープンソースAIモデルを中心に、推論、ファインチューニング、学習、GPUクラスターなどを提供するAI Native Cloudを開発しています。大規模なAI処理を高速かつ効率的に実行する研究とインフラの組み合わせを強みとしています。企業や開発者がオープンなAIスタックを本番環境で利用できるようにすることを目指しています。