Agentic AI時代のVAST Data、NVIDIAと連携し推論アーキテクチャを再設計

AI向けオペレーティングシステムを提供するVAST Dataは、Agentic AI時代に向けた新たな推論アーキテクチャを発表しました。本アーキテクチャは、NVIDIAのInference Context Memory Storage Platformを支えるもので、長時間稼働するマルチエージェントAIを前提としたギガスケール推論に対応します。NVIDIA BlueField-4 DPUとSpectrum-X Ethernetネットワークを基盤に、AI推論に不可欠なKVキャッシュへの高速アクセスとノード間での文脈共有を実現し、電力効率を大幅に向上させます。従来の推論は単一プロンプト中心でしたが、現在は複数ターンにわたる継続的な推論やエージェント間連携が主流になりつつあります。その結果、性能の鍵はGPUの演算速度ではなく、推論履歴である文脈データをいかに効率的に保存・再利用・共有できるかに移っています。VAST Dataはこの変化に対応するため、VAST AI OSをBlueField-4 DPU上でネイティブに動作させ、GPUサーバー内部にデータサービスを組み込む設計を採用しました。

この新設計により、従来型のクライアント・サーバー構成で発生していた競合や不要なデータコピーを排除し、同時接続が増えてもTTFT（最初のトークンが返るまでの時間）を抑制します。さらに、VAST独自のDASE（Disaggregated Shared-Everything）アーキテクチャにより、各ホストはグローバルに一貫した文脈ネームスペースへ直接アクセスでき、大規模環境でもボトルネックを生じさせません。

VAST Dataのグローバル技術アライアンス担当副社長であるJohn Mao氏は、「推論は計算ジョブではなくメモリシステムになりつつある」と述べ、文脈を即座に共有・管理できることがAgentic AI時代の競争力になると強調しています。一方、NVIDIAのネットワーキング担当シニアバイスプレジデントであるKevin Deierling氏も、AIエージェントにとって文脈は思考の燃料であり、VASTのAI OSとBlueField-4の組み合わせが持続的かつ予測可能な推論基盤を実現すると評価しています。本アーキテクチャは、性能向上にとどまらず、ポリシー制御、分離、監査性、ライフサイクル管理といったエンタープライズ要件にも対応します。これにより、AI推論が実験段階から本番・収益化フェーズへ移行する中で、GPUリソースの無駄を減らし、安定したインフラ運用を可能にします。

VAST Dataについて
VAST Dataは、AIの潜在能力を最大限に引き出すために設計された統合型AIオペレーティングシステムを提供する企業です。DASEアーキテクチャを基盤に、データ、計算、エージェント実行を一体化し、リアルタイム推論や複雑なワークフロー自動化をグローバル規模で支えています。