AIソフトウェア開発のCognition、セキュリティ責任者がAI時代の防御策を提言

Cognitionの最高セキュリティ責任者Alex StamosがThe Vergeのインタビューで、AIによるサイバー攻撃の変化を論じました。標的を調べて弱点を見つけ、その場で攻撃コードを作る作業まで自動化されつつあると説明しています。

企業には攻撃者に先んじてAIによる模擬攻撃を実施し、自社の弱点を見つけるよう促しています。試験によるシステム停止のリスクも認めつつ、外部の専門家や社内チームによる検証を進める必要性を訴えています。

防御の判断をAIに任せる場合も、人の監督と明確な動作制限が必要だとしています。具体例として、AIが自動停止できるアカウント数に上限を設け、それを超える操作には人の承認を求める方法を挙げました。AIに指示を与えるだけでなく、システム側で操作の範囲を制限する考えです。

Cognitionについて
Cognitionとは、2023年にScott Wu、Steven Hao、Walden Yanが設立したAI企業です。本社はアメリカ・カリフォルニア州サンフランシスコにあります。主力の自律型AIソフトウェアエンジニアDevinは、既存のコードや開発ツールを使って作業します。計画から実装、テスト、出荷までを担う点が特徴です。人と協働するAIを通じて人間の能力を広げ、エンジニアがシステム設計や問題解決に注力できる環境を目指しています。