AI推論プラットフォームBasetenが、複合AI向けフレームワーク「Chains」をリリース

AIインフェレンスのリーダー企業Basetenが、複合AIシステム向けの新フレームワーク「Chains」のベータ版をリリースしました。Chainsは、Basetenのオープンソースフレームワーク「Truss」を基盤に構築され、複数のAIモデルを使用する製品のパフォーマンスを向上させます。

Chainsの主な特徴は以下の通りです：
1. 異種GPUリソース管理：各コンポーネントに適したGPUやCPUリソースを選択し、独立してスケーリングできます。
2. ビジネスロジックの統合：開発者がMLモデルとビジネスロジックを単一のPythonプログラムで連携できます。
3. 開発者体験の向上：コードチェックと型チェックがデフォルトで提供され、複雑なワークフローでの一般的なミスを防ぎます。
4. 包括的なモニタリング：パフォーマンス、リソース使用率、運用指標のリアルタイム分析を提供します。
5. レイテンシの削減：不要なコードやネットワークホップを削除し、マルチモデルワークフローの各ステップでスループットを向上させます。

BasetenのCEOであるTuhin Srivastava氏は、「Chainsは、企業が優れたAI製品を提供するのを支援するという我々のミッションにおける大きな前進です」と述べています。Chainsは現在ベータテスト中で、興味のある企業は無料アカウントに登録するか、個別デモをリクエストできます。Basetenは、高スケールAI製品向けのインフラストラクチャソフトウェアのリーダーとして、優れたパフォーマンス、信頼性、コスト効率を提供することを目指しています。

Basetenについて
Basetenは、業界最高水準のAI推論プラットフォームを提供する、大規模AI製品向けインフラソフトウェアのリーディングカンパニーです。Basetenは、卓越したパフォーマンス、信頼性、コスト効率を提供することにコミットし、次の優れたAI製品のスケールを支援することを使命としています。IVP、Spark、Greylock、Conviction、Base Case、South Park Commonsなどの一流投資家がBasetenを支援しています。