生成AIのOpenAI、Cathedralと防御検証で協業し脆弱性報奨金を拡充

OpenAIは、外部セキュリティ企業Cathedralと連携する次の社内セキュリティ強化活動を発表しました。双方の研究者がOpenAIのモデルを使って自社システムの防御を検証し、弱点の発見と修正を進める計画です。

あわせて脆弱性報奨金制度を改定しました。ChatGPT、Codex、API Platformなどの中核製品に関する重大な脆弱性には最大3万ドル、特に例外的な発見には最大10万ドルを設定し、追加報酬を含めると最大17万2,000ドルとなります。報告の質や継続的な貢献も評価します。

狙いは、社内の検証と外部研究者による責任ある報告を組み合わせ、防御を継続的に改善することです。発表は協業と制度変更に関するものであり、特定の侵害が解消されたことや、攻撃を完全に防げることを示すものではありません。

OpenAIについて
OpenAIとは、2015年に設立されたアメリカのAI研究・開発企業で、サンフランシスコを拠点としています。Sam Altmanらが共同創業しました。対話型AIのChatGPT、開発支援のCodex、企業や開発者向けAPIを提供しています。基盤モデルの研究と製品への実装を一体で進め、安全性の評価や防御技術の開発にも取り組んでいます。汎用人工知能が人類全体に利益をもたらすことを目標に、個人や組織によるAI活用を支援しています。