ActiveFence オンラインでの悪意ある活動を大規模に検知

インターネットのコンテンツは有益なものが多いですが、一方で児童虐待、暴力的過激派、国家権力者は、仮想コミュニティやオンラインプラットフォームを利用してメッセージを広め、信者を募り、組織、ブランド、個人に被害を与えます。悪質業者の進化した手法には、最も洗練されたコンテンツモデレーション、不正行為、AIチームでも追いつくことが困難です。そのような課題に対して、何百万もの悪質なチャットのソースを大規模にスキャンし、コンテキストとコンテンツを使用して違反を特定するソリューションで取り組むイスラエルのスタートアップを取り上げます。

■スタートアップ名：ActiveFence
■サイト：https://www.activefence.com/
■分野： Privacy and Security

■ソリューション：
 オンライン上の悪意のあるコンテンツを大規模に検出することに特化した、AIベースのソフトウェアプラットフォームを提供
 

■ポイント：
・ActiveFenceのインテリジェンスに基づくカスタマイズ可能なAI搭載ソリューションにより、よりシンプルで効率的なオンラインセーフティへのアプローチを実現
・世界最大級の悪意のあるコンテンツのデータベースを活用して、幅広い脅威カテゴリーの中で最も洗練された悪意のある人物であっても、大規模な規模でプロアクティブに検知し、最も洗練されたアクターとその回避戦術に関する最新情報を取得
・CSAM、暴力的過激主義、詐欺、スパム、その他ポリシーや規制に違反する悪意のあるコンテンツを検出して削除し、悪質業者の進化する手法に基づいて、製品、セキュリティ、AI/MLのロードマップを設計
・偽情報を拡散し、複雑なオンラインネットワークを構築してユーザーを操作する高度な悪質業者に対抗し、最新のバッドアクターの行動に関する実用的なインテリジェンスを用いて、より効果的な政策決定を支援
・アカウント詐欺、プラットフォームや資産の不正操作を発見