AIインフラのCrusoe、Thinking Machines Labと年額6500万ドルの推論契約を締結

Crusoeは、Thinking Machines Labと年額6500万ドルの契約を結んだと発表しました。Crusoeが同ラボのオープンモデルの推論をCrusoe Cloud上で担う内容です。対象にはInklingモデルと、中国のZ.aiが開発するGLM 5.2および5.3、さらにラボ自身が微調整した派生モデルが含まれます。Thinking Machines Labは、OpenAIで最高技術責任者を務めたMira Muratiが創業した研究機関で、本番環境の処理をCrusoe Managed Inferenceを通じて提供します。

処理はNvidia HGX B200システムの専用構成の上で動き、装置間はNvidia Quantum-2 InfiniBandで接続されます。Crusoeはこのクラスタを自ら運用し保守する形を取り、これをTailored Deploymentと呼んでいます。性能を測定済みの専用エンドポイントとサービス品質の保証が付くため、Thinking Machines Lab側は自前の推論基盤を管理する必要がありません。両社は、大規模な合成データ生成に向けたバッチ推論の活用も検討しているとしています。

Thinking Machines Labで機械学習基盤を率いるMyle Ottは、Crusoe Managed Inferenceによって評価から本番稼働まで速やかに進むことができ、自社の基準に見合う水準を満たしたため、規模と経済性を確保して中核である研究へ再投資できるようになったと述べました。Crusoe Cloudでプロダクトマネジメントを統括する上級副社長Erwan Menardは、Thinking Machines Labの技術陣は高度で、成長に伴ってパートナーにも高い水準を求めてくると述べています。Crusoeによれば、今回の契約によりCrusoe Managed Inferenceの契約済み年間経常収益は1億ドルを超えました。同サービスの提供開始から1年に満たない時点での到達です。同社は今月に入ってJane Streetとも5年で130億ドルの契約を結んでおり、直近ではシリーズFで39億ドルを調達し、評価額は309億ドルとなっています。

Crusoeについて
Crusoeとは、2018年に設立されたアメリカのAIインフラ企業で、本社はコロラド州デンバーにあります。Chase LochmillerとCully Cavnessが共同創業し、LochmillerがCEOを務めます。当初は油田で焼却されていた随伴ガスを電力に変える事業から出発し、現在は電力から計算資源までを自社で一貫して手がける体制を掲げています。GPUクラウドのCrusoe Cloud、大規模データセンターの開発、可搬型のモジュール式データセンターCrusoe Sparkを三つの柱とし、電力の制約をAIの計算需要における最大の隘路と捉えて事業を組み立てています。