先端的な人工知能モデルのAnthropic、新たなサイバーセキュリティ構想Project Glasswingを発表

Anthropicは、高度なAIを活用して重要なソフトウェアシステムを守る新たなサイバーセキュリティ構想「Project Glasswing」を発表しました。この取り組みには、Amazon Web Services、Apple、Broadcom、Cisco、CrowdStrike、Google、JPMorganChase、Linux Foundation、Microsoft、NVIDIA、Palo Alto Networksなどが参加しています。Anthropicによると、この構想は未公開の先端モデル「Claude Mythos Preview」で確認された能力を背景に進められており、同モデルはソフトウェアの脆弱性を見つけ出し、攻撃者に悪用される前にセキュリティチームが修正できるよう支援する力を持つとされています。Anthropicの説明では、Claude Mythos Previewはコードやシステムを走査し、これまで知られていなかったセキュリティ上の欠陥を検出できます。その中には、長年見逃されていた可能性のある重大な脆弱性も含まれます。さらに、それらの欠陥がどのように悪用され得るかを模擬的に示すことで、企業がリスクをより深く理解し、より効果的に修正できるようにします。同社によれば、このモデルはすでに主要なオペレーティングシステム、ウェブブラウザ、広く使われているソフトウェア群に対して、数千件規模の高深刻度の脆弱性を発見しており、これらの情報は現実世界で悪用される前に開発者が対応できるよう、責任ある形で開示されているとしています。

一方でAnthropicは、Claude Mythos Previewを一般公開する予定はないと明言しています。ただし最終的には、サイバーセキュリティ用途をはじめ、こうした高性能モデルがもたらす多様な利点を安全に大規模展開できるようにしたい考えです。そのためには、危険な出力を検知し遮断するサイバーセキュリティ上の安全対策をさらに進化させる必要があるとしています。今後は、リスク水準がMythos Previewほど高くない今後のClaude Opusモデルに新しい安全対策を組み込み、その実運用を通じて改善と精緻化を進める方針です。今回の発表は、一般利用者にとっても、サイバー脅威が拡大する中でデジタル安全性が大きく改善する可能性を示しています。Anthropicは、人々が日常的に利用している銀行、医療、その他の重要なデジタルサービスの多くが、潜在的な脆弱性を抱えるソフトウェアの上で動いていると指摘しています。Claude Mythos PreviewのようなAIを用いれば、企業はこうした見えにくい欠陥をこれまでより速く発見し、修正できるようになるため、情報漏洩、サービス停止、サイバー攻撃のリスク低減につながる可能性があります。また、この取り組みはオープンソースソフトウェアにも及んでおり、多くの消費者向けアプリや基盤ソフトを支える領域の安全性向上にもつながるとみられます。

Project Glasswingには、前述の大手企業群に加えて、重要インフラに関わる40以上の追加組織も参加しています。Anthropicは、この取り組みに最大1億ドル相当の利用クレジットを投じるほか、オープンソースのセキュリティ強化活動にも資金支援を行うとしています。同社は、AIを用いた脅威が進化する中では、企業間の協力が極めて重要になると強調しており、今後はこのプロジェクトから得られた知見、修正された脆弱性、効果的な運用方法などを共有し、業界全体のサイバーセキュリティ基準向上につなげたい考えです。Anthropicはまた、先端AIモデルが新たなリスクをもたらす一方で、責任ある形で用いられれば、デジタルセキュリティを大きく強化する役割も果たし得るとしています。Project Glasswingは、AIを単なる脅威ではなく、防御側の能力を高めるための実践的な道具として位置づける試みとして注目されます。

Anthropicについて
Anthropicは、先端的な人工知能モデルの研究開発を行うAI企業です。高度な推論能力と安全性の両立を重視しながら、生成AIモデルの社会実装を進めています。今回のProject Glasswingでは、サイバーセキュリティ分野においてAIを防御目的で活用し、重要ソフトウェアやデジタル基盤の安全性を高める役割を担おうとしています。