生成AIのMistral AI、約1兆パラメータの「Mistral Large 4」をAPIで先行公開

Mistral AIは、新しいAIモデル「Mistral Large 4」の公開プレビューを開始しました。開発者向けの「Mistral Studio」からプレビュー版のAPIを利用でき、学習済みの重みは今月末までに公開する予定です。Large 4は、画像などを含む複数種類の入力に標準で対応するモデルで、総パラメータ数は約1兆、1回の処理で使うパラメータは520億です。複数の専門家モデルに処理を分担させるMixture of Experts（MoE）型の構造を採用しており、同社のモデルとしては最大かつ最も高性能だとしています。一度に扱える文脈は最大100万トークンで、構造化出力や外部機能の呼び出しにも対応します。

同社によると、Large 4は世界で最も強力なオープンソースモデルと競える性能を持ち、米国や欧州で開発されたオープンウェイトモデルを大きく上回ります。ソフトウェア開発の評価であるDeepSWE v1.1では61.7%を記録しました。AIモデルがソフトウェアの脆弱性を見つけて修正する能力を測るArtificial Analysis Cyber Indexでは、世界の上位5モデルに入ったとしています。重みの公開までは、サイバーセキュリティの専門家、審査済みのパートナー、各国政府当局と実環境での検証を進めます。この検証では、制限を緩めサイバー分野の機能を広げた同じモデルを使います。APIの料金は100万トークンあたり入力1.36ドル、出力4.18ドルです。

Large 4は、欧州にある同社のデータセンターで3,800基のNVIDIA Grace Blackwell GPUを使ってゼロから学習させたモデルで、公開プレビューも同じ基盤で提供します。学習データはEUの全公用語を含む160以上の言語にわたります。今後は世界の複数地域で提供し、欧州では他のデジタルサービス事業者に依存せず、欧州法の下でMistral自身が一貫して運用する環境も用意します。同社はLarge 4を、業界や用途に特化した次世代モデルの土台と位置づけています。重みの公開にあわせて、モデルの構造や追加のベンチマーク、学習後の調整手法の詳細も公表するとしています。

Mistral AIについて
Mistral AIとは、2023年に設立されたフランスのAI企業で、本社はパリにあります。Arthur Mensch、Guillaume Lample、Timothée Lacroixが共同創業し、Arthur MenschがCEOを務めています。重みを公開するオープンウェイトモデルを含む大規模言語モデルを開発し、企業向けのAIプラットフォームや開発者向けAPIを提供しています。欧州に自社のデータセンターを構え、企業や政府機関が自らAIを管理・運用できる「ソブリンAI」を掲げています。