GenAIアプリがサイバー脅威に対して脆弱になっている問題に取り組む”Repello AI”がSeedで$1.2Mを調達

Repello AIは、General Catalystに買収されたVenture Highway、pi Ventures、Entrepreneur Firstなどやエンジェル投資家が参加したSeedで$1.2Mを調達した。

サンフランシスコとバンガロールに拠点を置くAIセキュリティに特化したRepello AIは、IIT Roorkeeの卒業生によって2024年に設立され、企業にとっての新たな懸念である、GenAIアプリケーションが複雑かつ進化するサイバー脅威に対して脆弱になっている問題に取り組んでいます。

新たな資金を元に、Repello AIはプロダクト開発の加速、レッドチーミングおよび脅威インテリジェンスの強化、そして市場進出の拡大を計画しています。

ローンチの一環として、Repello AIは、企業がAI特有のリスクを継続的に特定・軽減できるよう設計された2つのセキュリティプラットフォーム「ARTEMIS」と「Repello Guard」を発表しました。

ARTEMIS(Automated Red Teaming Engine for Mapping, Identification and Scanning)は、テキスト、画像、音声などのモダリティにおいて数百万件の敵対的テストを実行し、GenAIシステムの脆弱性を事前に明らかにし、対応策を提供します。

Repello Guardはこれを補完し、脅威の監視やガードレールを通じてランタイム保護を提供し、安全でない出力やシステムプロンプトの漏洩、ブランドを傷つけるコンテンツをリアルタイムで検出します。

「企業はあらゆる機能に生成AIを導入していますが、使っているのは過去のセキュリティ戦略です。最善の防御は強力な攻撃であり、私たちはお客様がAIセキュリティにおける新たな脅威を事前に特定し、無力化できるよう支援しています。市場は、守るAIシステムと同等に洗練されスケーラブルな新しいアプローチを求めています。それがまさに私たちが構築しているものです。」とRepello AIの共同創業者兼CEOは語りました。

この会社のアプローチは、プロンプトインジェクション攻撃、コンプライアンス違反、安全でないAIの挙動といった従来のサイバーセキュリティツールが見逃しがちなリスクに対応するために、攻撃的セキュリティ手法と自動化を組み合わせたものです。

現在、このプロダクトはGrowwやPhysicsWallahなどの企業で使用されています。