AI21 Labsが、自然言語処理の次の段階モジュラー推論知識言語システム構築

イスラエルのテルアビブに拠点を置くAI21 Labsは、オンライン計算機や通貨換算機のような離散推論エキスパートで強化し、大規模言語モデルの能力を増強するために、モジュラー推論知識および言語システム、またはMRKLシステムと呼ばれる新しいシステムを開発しました。MRKLシステムの最初の実装であるJurassic-Xは、天気予報アプリやWikidataなどの外部知識ソースで補強されたさまざまな言語モデルを含んでいます。

AI21 Labsは、自然言語処理（NLP）をサービスとして提供する研究室であり、商業ビジネスでもあります。Udacity創業者のSebastian Thrunの助言を受け、AI21 Labsは2017年にCrowdx創業者のOri Goshen、スタンフォード大学教授のYoav Shoham、Mobileye CEOのAmnon Shashuaによって共同設立された。同社は、AIを人間の思考パートナーにすることで、人々の読み書きの方法をシフトし、形成することをミッションとしているという。AI21 Labsは、WordtuneやWordtune Readといった、自然言語を生成し意味を理解する能力を持つAI言語アプリケーションを開発してきました。昨年は178Bパラメータの自己回帰型言語モデル「Jurassic-1」をリリースし、1万人以上の開発者を集めました。Jurassic-1、GPT-3などの他の言語モデルは、多くのチャンスを広げる一方で、推論、簡単な演算、ライブデータソースへの接続などの機能が欠けており、制限されています。Jurassic-XのようなMRKLシステムでは、ユーザーは既存のメガ言語モデルの利点を、デメリットを感じることなく享受することができます。

Jurassic-XのデザインパートナーとしてAI21 Labsと協業するのは、広告・マーケティング会社であるPublicis Groupeです。Shohamによると、両社は新しいアーキテクチャのために素晴らしいユーザーエクスペリエンスを創造するために協力するとのことです。Publicis Groupeは、優秀なデザイナーを含むAI21 Labsのデザインチームに対して、クリエイティブディレクションを行います。今回の提携は、マーケティング担当者やブランドが人工知能（AI）の力を活用しやすくするための、両社による継続的な取り組みの一環です。両社は提携することで、よりパーソナライズされたアプリケーションをユーザーに提供することを目指します。

MRKLフレームワークの最初の実装はJurassic-Xとして発表され、Jurassic-1にすぐにアクセスできる開発者向けプラットフォームであるAI21 Studioで利用可能です。MRKLシステムは、外部の知識源と記号推論専門家により補強された様々な言語モデルを含んでいます。Shohamは、この新しいシステムは、人間の話し方をAIが処理する方法に革命を起こす、NLPの次の進化であると述べています。「変動する為替レート、天気予報、Wikidataのように常に更新されるソースなどの動的な情報に、事前に訓練された言語モデルが追いつくことは不可能です。このように、現在の言語モデルは、その真の可能性、すなわち、リアルタイムの目的に関連するさまざまな入力を自然言語で受け取り、同様に自然言語で返答する汎用自然言語インターフェースには及ばないのです」

言語モデルを増強し、幅広いスキルで強化するために、Open AIのGPT-3やJurassic-1といったメガモデルの弱点に対応するJurassic-Xが開発されました。同社は、Jurassic-Xにより、企業はデータベースをプラグインし、自由な言語を使って情報を抽出することができます。Shoham氏によると、Jurassic-Xは、強力な言語モデルとWikidataへのアクセスを組み合わせることで、テキスト生成にも役立ちます。Jurassic-Xは言語モデルと電卓の組み合わせで、自然言語で表現された非自明な数学演算に答えることができると述べ、複雑な質問を単純化し、サブ質問に答え、答えを収集することも可能だと付け加えています。

企業がよりデジタルに依存した経済へと移行していく中で、NLPはますます重要な存在になってきています。Shoham氏は、AIは素晴らしいが、世界はまだ本当のインテリジェンスを捉えるには程遠いと述べています。AI21 Labsは、より正確なAIモデルを構築するために、少しでも近づくことを目指します。