エッジにおける知能の概念を再定義する世界初の1ビットAIモデルを開発する"PrismML"がSAFEおよびSeedで$16.25Mを調達

PrismMLは、Khosla Ventures、Caltech、Cerberus VenturesからSAFEおよびSeedで$16.25Mを調達し、ステルス状態から脱した。

米国を拠点とする高性能AIモデルの先駆者でであるPrismMLは、Caltech(カリフォルニア工科大学)で開発された画期的な研究に基づく、世界初の商用実用可能な1ビット大規模言語モデルを発表しました。PrismMLの壮大な目標は、強力なAIがローカルで効率的かつ安全に、より高速に動作し、データセンターの構築においてもより少ないリソースで多くを実現し、膨張するエネルギーコストを回避できる未来を実現することです。

同社のフラッグシップモデルである1-bit Bonsai 8Bは、AIの展開方法における根本的な転換を示しています。最先端の性能を提供しながら、スマートフォン、ラップトップ、組み込みシステムなどのコンシューマーおよび産業用エッジデバイス上で効率的に動作します。

「AIの未来は、誰が最大のデータセンターを構築できるかで決まるものではありません。それは、単位エネルギーおよびコストあたりで最も高い知能を提供できるかによって決まります。PrismMLはそのようなブレークスルーを体現しています」とKhosla Venturesの創業者兼General PartnerのVinod Khoslaは述べています。

AIモデルがより大規模で計算集約的になるにつれて、高度な知能の展開には大規模なデータセンターインフラが必要となっています。このことは、レイテンシ、ハードウェア、プライバシーの制約により、リアルタイムのオンデバイスAI体験を制限しています。

PrismMLは、この課題に対してニューラルネットワークを数学的レベルから根本的に再考することで対応しています。従来の16ビットまたは32ビットのアーキテクチャではなく、同社はネイティブな1ビット構造を持つモデルを構築しています。これにより、推論時の計算量およびメモリ要件を大幅に削減しながら、推論性能を維持しています。

さまざまな知能ベンチマークにおいて、1-bit Bonsai 8BはLlama3 8Bを含む主要なフル精度8Bモデルと競争力を持ちながら、以下の特長を備えています。

• 14倍小型
• 8倍高速
• 4-5倍のエネルギー効率

この効率性により、開発者はデバイス上で直接実行される高度なAIアプリケーションを構築でき、クラウドへの依存を低減し、これまで実現が難しかったロボティクス、ウェアラブル、パーソナルコンピューティングにおけるエッジファーストの新しい世代のアプリケーションを可能にします。

「私たちは、推論能力を失うことなくニューラルネットワークを圧縮するために必要な数学理論の開発に何年も費やしました。私たちは1ビットを終着点ではなく出発点と捉えています。私たちはAIの新しいパラダイムを創出しています。それは、多様なハードウェア環境に適応し、計算およびエネルギー単位あたり最大の知能を提供するものです」とPrismMLの創業者兼CEOでありCaltechの教授であるBabak Hassibiは述べています。

短期的なインパクトはエッジにありますが、その影響はクラウドにも及びます。ローカル展開を可能にする効率性の向上は、ハードウェア利用率の改善、運用コストの削減、エネルギー消費の低減を通じて、データセンターの運用効率も向上させます。

「システムの観点から見ると、モデルを1ビット表現に削減することは最適化の方程式を変えます。それは、エッジで効率的に動作しつつ、クラウドで経済的にスケールできる新しいクラスのAIシステムを可能にします」とDatabricksの共同創業者でありUC Berkeleyの教授であるIon Stoicaは述べています。

「高度なモデルが制約のあるデバイス上で動作できるようになると、システム設計はエンドツーエンドで再構築されます。モデルレベルでの効率性はインフラ全体に波及します」とGoogleのCore ML/AI担当VPであるBill Jiaは述べています。

PrismMLの技術は、将来のAIハードウェア設計にも影響を与える可能性があります。

「電力はAIデータセンターのスケーリングにおける最大のボトルネックとなっており、PrismMLは電力と計算の関係を根本的に変革しています。さらに、メモリフットプリントと帯域幅要求を削減することで、このブレークスルー技術はAIインフラの経済性を改善するだけでなく、AI推論および次世代AIモデルにおけるコンピュータアーキテクチャの革新の新たなフロンティアを切り開く可能性があります」と同社の投資家であり、GoogleでTPUプログラムを創設しリードしたCerberus VenturesのAmir Salekは述べています。

今回の発表により、PrismMLはこのアーキテクチャのブレークスルーを研究段階から実用段階へと移行させ、1ビットAIの力をユーザー、開発者、研究者の手に直接届けます。

1-bit Bonsai 8Bモデルは、各パラメータが1ビット精度で構成された80億パラメータの大規模言語モデルです。Google v4 TPUを用いてトレーニングされています。既存のAIワークフローとのシームレスな統合を想定して設計されており、コンシューマー向けCPU、NPU、エッジGPU上での低レイテンシ推論に最適化されています。本モデルはFP16(16ビット浮動小数点)の8Bモデルと同等の高精度な推論および言語理解能力を実現しながら、メモリ使用量は大幅に削減されています(1GB対16GB)。PrismMLはさらに、メモリ使用量がそれぞれ0.5GBおよび0.24GBの1-bit Bonsai 4Bおよび1.7Bモデルも公開しています。

開発者、研究者、その他のユーザーは、Apache 2.0ライセンスのもとで1-bit Bonsaiモデルを無料でダウンロードできます。