生成AIのAnthropic、Claudeのモデル蒸留対策で不正に抽出される推論データを約90〜99％削減

Anthropicは、Claudeの能力を無断で別のAIモデルへ移すdistillation attackへの新たな防御策によって、攻撃者が取得する推論データを約90〜99％削減したとの初期結果を公表しました。モデル蒸留自体はAI開発で一般的に使われる手法ですが、同社が問題視するのは、大量の偽アカウントなどを利用してClaudeへ大規模な問い合わせを行い、得られた回答や推論過程からフロンティアモデルの能力を再現する無許可の活動です。Anthropicは、最終回答だけでなく推論過程がモデルの能力を複製するうえで特に価値が高いと説明しています。

対策の一つがClaude Fable 5.1とClaude Opus 5.5で導入したpreserved thinkingです。2026年8月31日以降に作成された新規APIアカウントでは、過去の会話コンテキストを書き換えて保護された推論を別の会話やモデルへ移すことを防ぎます。さらに、蒸留を狙ったプロンプトを検出する2段階のclassifierをClaude Sonnet 5.5、Opus 5と5.5、Fable 5と5.1で運用しています。同社によると誤検知率は0.1％未満で、9月の脅威報告書で確認した蒸留手法をすべて検知し、攻撃者に取得された推論tokenは導入前の10分の1から100分の1以下へ減少しました。

Anthropicは、継続的に推論抽出を試みるアカウントへの利用制限や停止も組み合わせ、蒸留に関連すると判断した数万件のアカウントを停止しており、攻撃開始から2時間以内に遮断するケースもあるとしています。同社は、ZhipuがGLM-5.3の開発で米国製モデルのサイバー能力を蒸留した事例や、MoonshotのKimiから一部の問い合わせがClaudeへ転送されていた事例を挙げていますが、これらはAnthropicによる調査と主張に基づくものです。同社は、蒸留された高性能モデルが元モデルと同等の安全策を備えない可能性があることを、サイバーセキュリティや国家安全保障上のリスクとして挙げています。

Anthropicについて
Anthropicとは、2021年に設立されたアメリカのAI企業で、本社はカリフォルニア州サンフランシスコにあります。Dario Amodei、Daniela Amodeiらが共同創業しました。主力製品は大規模言語モデルClaude、開発者向けAPI、コーディング支援のClaude Code、エージェント型業務環境Coworkです。モデル開発と企業向け提供に加え、解釈可能性、アライメント、サイバーセキュリティなどの安全性研究を進めています。信頼性が高く、解釈可能で制御可能なAIシステムを構築することを掲げています。