Aporiaの新ツール、AIモデルの根本原因分析調査を簡易化

マシンラーニングの可視化スタートアップ、Aporia Technologies Ltd.は、チームがAIモデルの動作方法をより詳細に理解できるよう支援するツール群を拡充しています。同社は、新たな「Production Investigation Room」の利用可能を発表しました。これは大規模言語モデル、自然言語処理モデル、コンピュータビジョンモデルの根本原因分析ツールとして説明されています。データサイエンティスト、マシンラーニングエンジニア、分析者を対象に、ユーザーがAIモデルのリアルタイムデータ分析を簡単に行えるデジタル環境を提供します。

Aporiaは2022年2月にシリーズBの資金調達ラウンドで2500万ドルを調達した会社で、AIチーム向けの包括的な可視化プラットフォームを開発しています。そのプラットフォームでは、チームがAIモデルの問題、たとえば偏った予測や「幻覚」（AIがレスポンスをでっち上げる現象）を検出できるカスタマイズ可能なモニターを作成できます。Aporiaを使用すれば、AIモデルのパフォーマンスが時間とともに劣化していないかも検出できます。

AporiaのProduction IRツールの導入により、チームはAIモデルで発生する問題の原因をより良く理解し、その結果、問題の解決策を考え出すことができます。Aporiaは、AIの信頼性に影響を与える問題の根底に迫るための生産データの調査は、複雑で時間がかかるプロセスであり、協力が限られていることやコードの変更が必要なことが障害となると説明しています。Production IRを使えば、調査プロセスを合理化でき、コーディングスキルは不要です。これはAIモデルの生産データをナビゲートし、根本原因分析調査に役立つ洞察を見つけるためのシンプルなユーザーインターフェースを提供します。

Production IRには、セグメント分析、データ統計、ドリフト分析、分布分析、インシデント対応ツールなど、効果的な調査を支援する多くの機能が含まれています。インシデント対応ツールを使用すれば、意思決定者はモデルに問題や課題が発生したときにすぐに対処することができます。

ツールには、一様多様体近似と射影という技術を使用して2Dおよび3Dの非構造化データを視覚化できる埋め込みプロジェクター機能が備わっています。Aporiaによれば、これによりチームはデータセット内の異なるクラスターを特定し、その中のパターンを特定することができ、これがモデルのパフォーマンスの問題の原因となっている可能性があるということです。