サイバーセキュリティのAporiaが、生成AIリスクへの対策強化のため研究開発ラボを拡張

Aporia、AI制御プラットフォームのリーダーであり、リアルタイムの幻覚緩和を唯一提供する企業は、革新的な研究開発センターであるAporia Labsの拡張を発表しました。この拡張により、Aporia LabsのエリートMLエンジニア、サイバーセキュリティ、AI専門家のチームは、生成AI(GenAI)アプリケーションを保護するためのAIリスク防止ポリシーの特定と実装に集中できるようになります。このグループは、データ漏洩防止の最高基準を確保し、幻覚やプロンプト攻撃に対する防御を提供する同社のAIガードレールソリューションに不可欠です。

セキュリティと制御に重点を置いたAporia Labsのポリシーは、堅牢で偏見のないAI製品性能を確保することを目的とした同社のAIガードレールソリューションを継続的に改善します。AIガードレールは、大規模言語モデル(LLM)とエンドユーザーの間にシームレスに適合し、公平で責任ある使用を保証し、差別的、不正確、またはNSFWのレスポンスなどの幻覚を効果的にブロックします。責任あるコンテンツの促進に加えて、このソリューションは、クレジットカードや医療データなどの機密情報を保護し、エンドユーザーのプライバシーと安全を確保することで、データ漏洩リスクの管理とセキュリティ強化にも重要な役割を果たします。

この拡張は、AIモデルの急速な進化が挑戦とリスク、特に幻覚と偏見の広範な発生をもたらすという、AI風景の重要な時点で行われます。最近の研究では、大規模言語モデル(LLMs)および生成AI技術を利用する組織の89％のMLエンジニアが、自分たちのモデルでの幻覚の事例を報告しています。これに対応して、Aporia Labsは幻覚の緩和、プロンプト注入とデータ漏洩の防止、個人を特定できる情報(PII)の違反の防御、およびコミュニケーション全体でのブランド言語の整合性を保証するための先進的なポリシーの作成に焦点を当てます。

Aporiaについて
Aporiaは、AI制御プラットフォームのリーダーであり、リアルタイムの幻覚緩和を唯一提供する企業です。同社は、責任あるAIを推進する使命で世界経済フォーラムからテクノロジーパイオニアとして認められています。Bosch、Lemonade、Levi's、Munich RE、Sixtなどのフォーチュン500企業や業界リーダーから信頼を受けているAporiaは、信頼でき、責任があり、公平なAIアプリを提供する組織を力づけています。そのプラットフォームはリアルタイムのガードレールを提供し、AIリーダーや製品チームが自信を持ってAIアプリを制御し、信頼を築けるようにします。