生成AIのAnthropic、Claude Opus 5.5に最先端LLM開発を制限する分類器を組み込む

Anthropicが公開したClaude Opus 5.5に、最先端の大規模言語モデル（LLM）開発に関わる一部の作業を制限する分類器が組み込まれていることが、同社のサポート文書から明らかになりました。文書によれば、Opus 5.5はFableモデルと同種の分類器を、最先端LLMの開発に関係する限られた能力について備えており、例として一部の機械学習アクセラレータ向けのカーネル開発が挙げられています。分類器が反応すると、応答はOpus 5.5から旧世代のOpus 5へ切り替わります。同社は、従来のAIや機械学習の開発、研究、一般的なコーディングの大半には影響しないとしています。

この制限はOpus 5.5に適用され、Opus 5には適用されません。同社はこれまでもFable系のモデルで、分散学習の基盤、AIアクセラレータの設計、一部のカーネル開発を制限してきました。強力なモデルが次世代モデルの開発を加速し得るとして、競合が同等に高度なモデルを速く作ることをClaudeが手助けする事態を避けたいと説明しています。分類器が働いた場合、関連する評価でのOpus 5.5の成績はその分下がる可能性があると同社自身が認めています。なお、Opus 5とOpus 5.5には、推論過程をそのまま引き出そうとする試みを防ぐ別の分類器も備わっています。

公開当日にXで共有された外部の検証では、制限がHuaweiの950DTとAmazonのTrainium3に及ぶという結果が示されました。Huaweiのハードウェアを対象とすることは、中国の主体がアメリカ製モデルを蒸留することへの懸念と整合する一方、Amazonの自社設計チップが含まれる理由は説明されていません。Amazonは同社にとって最大の外部出資者であり、同社はAmazonの半導体上で大規模に処理を動かす計画を公表してきました。Anthropicは制限の対象となる半導体の一覧を公表しておらず、この検証結果は暫定的なものとして扱う必要があります。分類器が企業名ではなくアクセラレータ開発の類型に基づいている可能性や、安全のための絞り込みが広すぎた結果である可能性も指摘されています。

Anthropicについて
Anthropicとは、2021年に設立されたアメリカの人工知能企業で、本社はカリフォルニア州サンフランシスコにあります。Dario AmodeiとDaniela Amodeiのほか、Ben Mannらが共同創業しました。主力製品は大規模言語モデル群Claudeと、開発者向けAPI、エージェント型のコーディング環境Claude Codeです。モデルの研究開発と法人向け提供を軸に、解釈可能性研究や責任あるスケーリング方針など、安全性を重視した開発体制を特徴とします。AIを安全かつ有益な形で社会に実装することをミッションに掲げています。