生成AIのAnthropic、Accentureを初の常駐型評価者に起用し両社で5年に各10億ドル超を投じる

Anthropicは、自社のフロンティアモデルを独立して評価する常駐型の評価者としてAccentureを起用すると発表しました。Accentureの専門AI部門であるFacultyの人員が同社内に入り、モデルの評価とレッドチーミング、アライメント評価、安全策の検証を、社内のチームや既存の安全性パートナーと並んで担います。両社はこの体制の構築に向けて、今後5年で少なくとも各10億ドル、合計で20億ドル以上を投じる見込みだとしています。

今回の起用は、最高経営責任者Dario AmodeiがAI開発の速度を業界全体で抑えるべきだと提案した構想の、最初の具体的な一歩と位置づけられています。構想の第一段階は、第三者の評価者に従業員並みのアクセス権を与え、安全性に関する取り組みを検証させたうえでインシデントを報告させるというものです。Anthropicは、重要性と緊急性を踏まえてAccentureの作業費用を自社が直接負担するとしています。提携は排他的ではなく、非営利の研究機関METRなど他の組織とも協議を続けているとしています。同社は、評価者の存在は自社の説明責任を減じるものではなく検証可能にするためのものであり、モデルの安全性の責任は引き続き自社にあると説明しています。

Accentureを選んだ理由として挙げられているのは、大企業や政府機関へのAI導入で積み重ねた実績です。Facultyは主要なAI研究機関向けのモデル評価に加え、政府、防衛、医療、社会インフラといった領域で安全性を重視したAIシステムの構築を手がけてきました。Accentureの会長兼最高経営責任者Julie Sweetは、安全性には深い技術的知見と、AIが現実の世界でどう使われているかの理解の双方が必要だと述べ、常駐型の評価は新しい領域であり、その発展を加速させたいとしています。最高技術責任者でありFacultyの最高経営責任者でもあるMarc Warnerは、Facultyは偶然ではなく設計によってAIを安全にするという信念のもとに設立されたと述べました。発表を受けてAccenture株は時間外取引で上昇しました。

Anthropicについて
Anthropicとは、2021年に設立されたアメリカの人工知能企業で、本社はカリフォルニア州サンフランシスコにあります。Dario AmodeiとDaniela Amodeiのほか、Ben Mannらが共同創業しました。主力製品は大規模言語モデル群Claudeと、開発者向けAPI、エージェント型のコーディング環境Claude Codeです。モデルの研究開発と法人向け提供を軸に、解釈可能性研究や責任あるスケーリング方針など、安全性を重視した開発体制を特徴とします。AIを安全かつ有益な形で社会に実装することをミッションに掲げています。