AI向けサイバーセキュリティAporiaが、マルチモーダルAIの最初のガードレールを発表

主要なAIコントロールプラットフォームであるAporiaは、マルチモーダルAIアプリケーション向けのAporiaガードレールの提供開始を発表しました。この類を見ない製品は、ビデオやオーディオベースのAIアプリケーションにおける、ハルシネーション(妄想)、誤った応答、コンプライアンス違反、ジェイルブレイク(制限解除)の試みなどの問題を軽減します。この画期的な製品リリースにより、急速に成長する生成AIの分野における独自の課題に対処する新たな基準が設けられることになります。

OpenAIが最近リリースしたGPT-4oは、テキスト、オーディオ、ビデオ、画像のあらゆる組み合わせを扱えるマルチモーダルAIアプリケーションで、同社最も高度なモデルです。産業界や日常生活におけるヒューマン-AI インタラクションを変革することが期待されています。しかし、GPT-4oは今までにない生産性と最も人間らしいAI体験を提供する一方で、説明責任の大きな問題も抱えています。ユーザーに誤った情報を伝えた場合、重大な影響が生じる可能性があります。例えば、うつ病の対処法を求める人にAIが薬物や飲酒を勧める、または銀行の顧客が自身の財務履歴を確認したいと尋ねたところ、他人のデータが提示されるなどです。

AporiaのマルチモーダルAI向け最新ガードレールにより、エンジニアはアプリとユーザーの間に必要不可欠なセキュリティとコントロールの層を追加できるようになります。このガードレールは、サブ秒のレイテンシーで動作する、完全にカスタマイズ可能な行動ルールのセットで構成されています。この完全マネージド型の低メンテナンスソリューションは、一般的なプロンプトエンジニアリングの範疇を超えた機能を、わずか数分のセットアップで提供します。

Aporia CEOおよび共同創業者のLiran Hasonは次のように述べています。「マルチモーダルAIは私たちの生活を変える革新的なものですが、その安全性、成功、そして最終的な採用を確実にするためにはガードレールが必要不可欠です。世界中の企業がAIに依存するようになっていますが、多くのエンジニアが発見しているように、AIそのものは本質的に信頼性に欠けます。私たちのチームはマルチモーダルAIの安全性と信頼性を大幅に高める、史上初のガードレールソリューションを提供するため、夜を徹して働いてきました。顧客サービス担当者はすぐにAIに置き換えられますが、AIとエンドユーザーの間に人的要素がなくなったらどうなるでしょうか。過去の例からも分かるように、大惨事が瞬く間に起こりかねません。Aporiaガードレールは、話し言葉と書き言葉の応答をリアルタイムで積極的に軽減し、ヒューマンインザループをサポートする最初のソリューションです。」

AporiaのマルチモーダルAI向けガードレールは、ユーザーに到達する前にリアルタイムで94%のハルシネーションを検出し軽減できるため、大規模言語モデル(LLM)とAIアプリケーションの間の強力な層となります。この製品はまた、プロンプト注入やプロンプトリークなどの悪用を防ぎ、機密情報の漏洩を防ぎます。さらに、ユーザーとのやり取りにおける露骨で攻撃的な言葉遣いを防ぎ、不適切な言葉や表現を即座に遮断します。

Aporia共同創業者兼CTOのAlon Gubkinは、「マルチモーダルアプリケーションのリリースを受け、新しいAIアプリを保護するソリューションを作る必要があると分かりました」と述べています。「Aporiaでは、リスクと予防対策に関する継続的な研究がAI開発と一体となって進められるべきだと考えています。AIを安全に保つことが私たちの主な目的であり、そのためAIエンジニアがこの世界を変える技術のすべての利点を享受できるよう、マルチモーダルAIアプリケーション向けガードレールなどのソリューション開発に取り組んでいます。」

Aporiaについて
Aporiaは主要なAIコントロールプラットフォームであり、リアルタイムハルシネーション軽減の唯一のプロバイダーです。同社は、責任あるAIの推進に向けた取り組みが世界経済フォーラムから「テクノロジー・パイオニア」に認定されています。フォーチュン500企業や業界リーダー企業であるBosch、Lemonade、Levi's、Munich RE、Sixtなどに信頼されており、Aporiaは信頼できる、責任あるフェアなAIアプリを提供する組織を支援しています。同社のプラットフォームは、リアルタイムのガードレールを提供し、AIリーダーとプロダクトチームがAIアプリをコントロールし、信頼を確立できるようにしています。