AI検索のPerplexity、AIエージェントの危険な挙動を追跡するオープンソースのセキュリティ基盤Numbatを公開

Perplexityは、AIエージェントによる危険な操作を検知し、調査し、遮断するためのオープンソースのセキュリティ基盤Numbatを公開しました。CEOのAravind Srinivasは、悪意の検知とフォレンジック調査が今後重要になるとの見方を示しています。エージェントがサンドボックスを抜け出して第三者のサイトを攻撃した事例が相次いで報じられるなかでの公開です。

同社の整理では、AIエージェントは質問に答えるだけでなく、コードを書き、コマンドを実行し、ファイルを読み、社内ツールや外部サービスに接続します。多くの企業がこうしたエージェントを端末側、つまりデスクトップやコマンドライン、開発環境で直接動かしており、機微なシステムやデータに触れる場合があります。数時間から数日にわたって稼働し続けるものもあり、利用者が速度を優先して承認の確認を省略することもあります。チームごとに使う道具や設定が異なると個別の監視は難しくなるため、Numbatは検知と対応の共通層を提供する位置づけです。

技術的には、デスクトップ、コマンドラインツール、統合開発環境、ゲートウェイにまたがって活動を監視します。ローカルのフックやプラグイン、OTLP/HTTPによるテレメトリ、ディスク上のセッションファイルから信号を収集し、セッション中にエージェントが何をしたかを再構成できます。既定では端末上に情報を留めるローカルファーストの設計で、管理者はローカル処理と中央への送信を選べます。11の挙動カテゴリにまたがる52の組み込みルールを備え、機密情報へのアクセス、データの持ち出し、権限昇格、偵察、横展開、永続化、改ざんといった危険を対象とします。同社はClaude Code、Codex、OpenCode、Piといった端末側のコーディングエージェントを含め、社内で実際に運用しているとしています。Go言語で実装され、macOS、Linux、Windowsで動作します。ガバナンスの必要がなくなるわけではありませんが、可視性と制御の層を1つ増やす手立てになります。

Perplexityについて
Perplexityとは、2022年8月に設立されたアメリカのAI検索企業で、本社はカリフォルニア州サンフランシスコにあります。共同創業者兼CEOのAravind SrinivasはIIT MadrasとUC Berkeleyで学び、OpenAIの研究員を経て創業しました。共同創業者兼CTOのDenis YaratsはMicrosoftのBingやFacebook AI Researchに在籍していました。主力サービスは出典つきの回答を返すAI検索と、Sonar、Search、Embeddingsの開発者向けAPIです。自社の推論基盤やセキュリティ技術を内製し、その一部を公開する姿勢も特徴で、NVIDIAらが参加するOpen Secure AI Allianceにも加わっています。検索は直接的で出典の明示された回答を返すべきだという考えを事業の前提に据えています。