LLMのOpenAI、次期モデルAstraが「Critical」級能力に達する可能性を受け一部開発活動を停止し安全対策を強化

OpenAIは、開発中の次期AIモデルAstraについて、最新の内部評価でサイバーセキュリティ能力が大幅に向上し、同社のPreparedness Frameworkにおける最高リスク水準の一つである「Critical」に達している可能性を排除できないと発表しました。従来のGPT-5.6 Solなどは「High」と評価されており、Astraではエージェント型コーディングやサイバー攻撃関連の能力がさらに進展しています。

OpenAIが定義するCritical水準には、人間による介入なしに堅牢な実システムのゼロデイ脆弱性を発見・悪用したり、高レベルの目標だけから新たな攻撃戦略を構築して実行したりする能力が含まれます。同社は追加評価を進めるとともに、強化されたセキュリティ基準を満たしていないAstra関連の内部活動を一時停止しました。ネットワークやツールへのアクセス制限、モデルウェイトの保護、隔離環境、エージェントの行動監視なども強化しています。

高性能AIのサイバー能力は、防御側が脆弱性を発見する手段になる一方、攻撃の自動化にも利用できるデュアルユース性があります。OpenAIは政府機関やAI安全性組織とも連携してAstraを評価する方針で、モデル性能だけでなく、能力水準に応じて開発・評価環境自体のセキュリティを引き上げる仕組みを採用しています。フロンティアAIのリリース判断にサイバー能力が直接影響する段階に入ったことを示す動きです。

OpenAIについて
OpenAIとは、2015年に米国サンフランシスコでSam Altman、Greg Brockman、Ilya Sutskeverらによって設立されたAI研究・開発企業です。大規模言語モデルGPTシリーズやChatGPT、ソフトウェア開発支援のCodexなどを提供しています。企業や開発者向けにはAPIやAIエージェント基盤も展開しています。基盤モデルからアプリケーション、安全性研究まで幅広く手掛ける点が特徴です。高度なAIが人類全体に利益をもたらすことを使命としています。