AI21 LabsがAIの誤った情報生成を防ぐプラグアンドプレイツールを発表

人工知能のスタートアップであるAI21 Labs Ltd.は、組織の既存の知識ベースに基づいたチャットボットの応答を保証することで、AIの誤った情報生成（AIホールシネーション hallucinations）という問題を永遠に解消する新たなプラグアンドプレイツールを作成したと発表しました。新しいツールは「Contextual Answers」と呼ばれ、そのツールはデジタルアセットに埋め込むことで、生成AIを用いた情報検索の効率と精度を向上させることができます。

AIホールシネーションとは、生成AIを搭載したチャットボットが、プロンプトに真実に基づいて応答するために必要な情報を見つけられない場合に、回答を単に捏造してしまう現象のことを指します。この現象は大きな問題を引き起こすことがあり、一つの最近の例として、ある法学教授が自身の学生に対して性的嫌がらせを行ったとChatGPTによって誤って告発された事件があります。ChatGPTはこの主張の情報源として2018年のワシントンポストの記事を引用しましたが、そのような記事は存在せず、その教授がそのような告発を受けたこともありませんでした。

この問題は当事者にとって非常に不愉快なものであっただろうが、AIホールシネーションが引き起こす他の問題もあります。たとえば、企業が顧客サービスのチャットボットに生成AIを使用している場合、その回答が全て正確で、消費者に間違った情報を提供しないようにしたいと思うでしょう。Contextual Answersを用いることで、AI21 Labsは組織がアップロードしたソースドキュメントに基づいた問い合わせに対する完全に正確かつ関連性のある応答のみを返すように設計されているため、生成AIの信頼性を向上させることができると述べています。組織は内部の知識ベース、ヘルプセンターライブラリのコンテンツ、財務報告書、技術マニュアルなど、適切と見なされる任意のデータを無制限にアップロードすることができ、そのチャットボットはこれらの情報のみを応答の情報源として使用します。この会社によれば、文書はAIの経験がない人でもアップロードすることができ、そのモデルはスペルミスや語句の欠落を理解する能力があり、文法的な誤りを含む問い合わせに対しても応答することができるとのことです。

Contextual Answersは多様な使用ケースをサポートしています。例えば、内部の組織文書を用いて顧客に対応する顧客サービスボットを動かすために使うことができます。また、財務サービス提供者により、財務報告書や通話ログなどのビジネスドキュメントを分析するために使用することもできます。その他の使用ケースとしては、大量のデータベースで素早く調査し、答えを見つけるのを教師や学生を助ける教育、法規制やコンプライアンスガイドラインなどの関連する法的文書を素早く取り出すのをユーザーを助ける法務サービスと保険などがあります。

AI21 Labsは、Contextual Answersをその主要なAIツールであるWordtuneに統合すると発表しました。Wordtuneは、コンテンツと意味を理解し、人々が自分のアイデアをより明確で魅力的な方法で書き留めるのを助けるAI搭載のライティングコンパニオンです。

共同創設者で共同CEOのOri Goshenは、AIに対する初期の恐怖が人々がその利点を理解するにつれて減少してきていると述べつつ、企業はまだAIホールシネーションを防ぐ必要があると言います。「企業がそれぞれのワークフローに最適な方法でAIを実装し、適切なツールを採用するようになることを期待しています」と彼は言います。「それが私たちがContextual Answersのローンチに非常に興奮している理由です。これにより、私たちはどの企業のAI戦略の重要な部分として位置づけることができます。」