大規模言語モデルのAnthropic、モデルの出力を検証する「FlashProve」を公開

Anthropicは、AIの応答が特定のモデルによる計算から生成されたことを暗号技術で検証する研究試作「FlashProve」を公開しました。モデルの重みを開示せずに、応答とモデルの対応を確認する仕組みです。

Llama 4 Maverickを使った実験では、H100 GPU 1基で毎秒約110トークンの証明生成を報告しました。1,024トークンのリクエストに対する証明サイズは約19MBです。同社は利用者や監査担当者によるモデル確認への応用を見込む一方、証明の生成には通常の推論より大きな計算負荷がかかります。

コードや形式検証に関連する成果物はApache 2.0ライセンスで公開されました。ただし、研究段階の仕組みであり、証明対象は整数演算とgreedy decodingによる計算に限られます。高速実装全体に形式的な保証があるわけではなく、応答内容の正しさを保証するものでもありません。

Anthropicについて
Anthropicは、対話型AI「Claude」を開発する米国のAI研究・製品企業です。公益法人として、AIシステムの安全性と有用性の両立を目指しています。信頼性や解釈可能性、制御可能性に関する研究に取り組んでいます。Claudeを通じて個人や企業向けにAI製品を提供しています。モデルの振る舞いを検証するための技術も研究しています。