生成AIのAnthropic、Claudeの悪用事例をまとめた脅威報告書を公開し生物兵器につながり得る利用を遮断したと説明

Anthropicは、自社モデルClaudeの悪用を検知し遮断した事例をまとめた脅威インテリジェンス報告書を公開しました。対象は2025年12月から2026年8月までに同社が停止させた活動で、サイバー攻撃、影響工作、監視、詐欺、生物分野の悪用、通常兵器の開発、モデルの不正な蒸留という7つの領域にわたります。使われたのはClaude Haiku、Sonnet、Opusで、不正な蒸留の1件を除き、Claude FableおよびMythos系のモデルが関与した事例はなかったとしています。同社は各事案を遮断したうえで安全対策を強化し、必要に応じて当局や業界の関係先と情報を共有したと説明しています。2025年に公開した3本に続く4本目の報告書です。

最も注目を集めたのは生物分野です。報告書は、研究者がClaudeを生物兵器の開発につながり得る形で使った事例を5件挙げています。そのうち1件では、チクングニア熱ウイルスを対象とする機能獲得研究の助成金申請書の作成を求める要求があり、同社のシステムがこれを遮断しました。同社の脅威インテリジェンス責任者であるJacob KleinはNew York Timesに対し、兵器を作りたいと明示的に述べた利用者はおらず、ワクチン開発を進める技術がそのまま危険な用途にも転じ得る生物研究の両義性が問題を難しくしていると述べています。同社はこれを受けて新しいモデルでの制御を厳しくし、軍民両用となり得る生物分野の問い合わせをより広く制限したとしています。このほか、銃器、ミサイル、武装ドローン、爆弾などの通常兵器と、その照準や制御を担うソフトウェアの開発にClaudeが使われた事例が6件報告されました。

サイバー分野では、ロシア国家に連なるとみられる諜報活動が詳述されています。公開報道でMidnight Blizzardとされてきた主体と整合するとされ、開発、インフラ調達、フィッシング、指令通信、データ持ち出しまでをAIによる作業手順で自動化していました。防御製品にマルウェアを検知されると、エージェントが自動で改変と再構築を繰り返し、検知されなくなるまで反復する仕組みも確認されています。調査では標的となった組織が20以上特定され、ウクライナと欧州に集中していました。影響工作では、ロシア、イラン、トルコのほか湾岸、南アジア、アフリカ、欧州を起点とする9件が、6大陸の読者を標的にしていたとされます。同社の見立てでは、攻撃手法そのものは目新しくなく、変わったのは経済性です。偵察、侵入、ツール開発、データ処理がモデルへ委ねられ並列かつ高速に走るため、攻撃の巧妙さが実行主体の規模を示す手がかりにならなくなったと指摘しています。

Anthropicについて
Anthropicとは、2021年に設立されたアメリカの人工知能企業で、本社はカリフォルニア州サンフランシスコにあります。Dario AmodeiとDaniela Amodeiのほか、Ben Mannらが共同創業しました。主力製品は大規模言語モデル群Claudeと、開発者向けAPI、エージェント型のコーディング環境Claude Codeです。モデルの研究開発と法人向け提供を軸に、解釈可能性研究や責任あるスケーリング方針など、安全性を重視した開発体制を特徴とします。AIを安全かつ有益な形で社会に実装することをミッションに掲げています。