CyabraがAIを活用し、ボットやAI生成スパムを排除する新しいツールを発表

2022年、イスラエルのスタートアップ企業Cyabraは、Elon Musk氏が彼の所有グループがソーシャルメディアプラットフォームTwitterを取得してXとして再ブランドする際のボットやスパムアカウントの存在範囲を評価する手助けを求めたことで話題になりました。Cyabraの新しいツール「botbusters.ai」は、AIによって生成されたテキスト、画像、偽のプロファイルを検出することができ、ビデオの検出機能も開発中です。

CyabraのCEO、Dan Brahmy氏は「私たちは世界の出来事を監視する番犬になりたいと思っています。"botbusters.ai"は、世界中の人々や企業がテキストや画像、プロファイルが人間によって作成されたものなのか、それともコンピュータによって作成されたものなのかを測定する無料のソリューションを使用する方法です」とFOXビジネスに語っています。Cyabraのツールも「半教師付き機械学習」と呼ぶAIの形態を使用しており、botbusters.aiにはAIを使用してテキスト、画像、プロファイルが作成されたかどうかを検出するための約800の機械学習パラメータがあると説明しています。

Brahmy氏は、Cyabraが遭遇するボット活動の3つの主なタイプは、企業の偽装、地政学的目的を追求する国家後援のボット、および製品のローンチなどから注意をそらすことを目的としたランダムなカオスの創造であるとも述べています。

彼はまた、「正確に人を模倣し、正しいソーシャルメディアのプロファイルやアイデンティティを持ち、適切なタイミングで適切なコンテンツを拡散すると、特に噂が十分に興味深く、挑発的である場合、観客はそれをきちんと受け入れる」と付け加えました。Brahmy氏は、外国政府などの国家的な行為者がボットを使用して情報操作やプロパガンダを拡散するのが一般的であると言及しました。

一方、企業幹部を標的とした偽装詐欺が大きな注目を浴びていますが、一部の詐欺師は、特権的な情報やデータにアクセスするためにAIツールを使用して下級の従業員を標的にしています。他の詐欺師は、問題を解決しようとする顧客を狙うために、企業のカスタマーサービス担当者を模倣しています。Brahmy氏は、高プロファイルな製品のローンチからソーシャルメディアのユーザーの注意をそらすような、一見ランダムな活動の背後にある金銭的な動機を持ってボットが使用されたことを指摘しました。