AIモデル基盤のRamp、複数LLMの性能とコストを自動最適化する「Router.com」を公開

企業向け財務プラットフォームを提供するRampは、複数のAIモデルへのアクセス、評価、ルーティングを一つのAPIで行える「Router.com」を公開しました。企業はアプリケーション側の実装を変更せずに新しいモデルを試験し、品質、Latency、信頼性、コストなどを比較したうえで、本番トラフィックを最適なモデルへ切り替えられます。

Router.comには、低価格なFlex Tierと標準TierのLatencyを監視して自動選択する機能、本番リクエストの一部を別モデルへ送って性能を比較するShadow Models、複数ベンチマークを重み付けして最適モデルを選ぶBenchmark Routingなどが用意されています。NVIDIAのSwitchyardとも連携し、AIエージェントの簡単な処理は低コストモデルへ送り、高度な推論が必要な処理だけ高性能モデルへEscalationできます。Rampは自社の本番AI処理で同様の仕組みを利用し、品質やUptimeを維持しながらコストを40％削減したとしています。

企業が複数のAIモデルを利用する時代には、特定のモデルを選ぶことより、用途ごとに最適なモデルを継続的に選択できることが重要になります。Rampは本来、法人カードや経費管理を中心とするFinTech企業ですが、自社のAI運用で構築した基盤を独立した開発者向けサービスとして外部提供しました。財務SaaS企業が内部AIインフラを新たな事業へ転換する事例であり、AIモデルそのものではなくモデル間のルーティングを担う中間レイヤーの競争拡大を示しています。

Rampについて
Rampは、2019年にEric GlymanとKarim AtiyehらがNew Yorkで設立したFinTech企業です。法人カード、経費管理、請求書支払い、調達、旅行、会計自動化などを統合したFinancial Operations Platformを提供しています。企業の支出をリアルタイムで可視化し、AIや自動化によって無駄なコストと管理作業を減らすことを強みとしています。近年は財務業務向けAIエージェントやAIインフラにも事業領域を広げています。企業が時間と資金をより効率的に利用できる環境を構築することを目指しています。