AIセキュリティのBackslash Security、GPT-4.1など人気LLMが生成するコードの脆弱性を指摘

AI時代のアプリケーションセキュリティ企業であるBackslash Securityは、OpenAIのGPTやAnthropicのClaude、GoogleのGeminiなどの人気LLM（大規模言語モデル）が、特に明確な指示がない場合、デフォルトで脆弱なコードを生成することを新たな調査で明らかにしました。これらのAIモデルは、セキュリティ要件を明示的にプロンプト（指示）に含めるか、明確なルールで管理しない限り、安全性が十分に担保されないことが分かりました。この問題に対応するため、Backslashは、独自の新たなセキュリティ機能として、「Model Context Protocol（MCP）Server」や、「Cursor」「Windsurf」「GitHub Copilot in VS Code」などのエージェント型IDE向けのセキュリティルールと拡張機能を発表しました。Backslashの調査では、GPT、Claude、Geminiといった7種類の最新LLMが対象となり、「単純」から「包括的」まで3段階のプロンプトの工夫をして、コード生成の安全性を評価しました。結果、どのモデルも特別な指示なしに生成されたコードには複数の重大な脆弱性（CWE）が含まれていることが分かりました。特に「単純な指示」（naive prompts）を与えた場合、全てのLLMが10種類の代表的な脆弱性のうち少なくとも4つに該当する脆弱なコードを生成しました。

一方、セキュリティ要件を明示的にプロンプトで指定すると安全性が向上し、OWASP（Open Web Application Security Project）のベストプラクティスに基づいたプロンプトを与えると、さらに安全性が改善しました。しかし、それでもなお7モデル中5モデルは一部脆弱性のあるコードを生成しました。Backslashが独自に設定したセキュリティルールを含めたプロンプトを使用すると、すべての脆弱性を回避する安全なコードが生成されました。特にOpenAIのGPT-4oは最も安全性が低く、「単純な指示」では10点満点中1点、セキュリティを意識した指示でも10件中8件の脆弱性を持つコードを生成するという結果でした。一方、Claude 3.7 Sonnetは、単純な指示で6点、セキュリティを意識した指示では満点の10点を記録し、最も安全性の高いコード生成能力を示しました。このようなAIを活用した新たなコード生成手法（vibe coding）が普及する中、セキュリティチームはLLMが生成するコードの安全性を担保する必要があります。そこでBackslash Securityは、生成されるコードを当初から安全にするための新機能を開発し、「セキュリティ・バイ・デザイン」を実現しています。新たに導入された機能は以下の通りです。
• Backslash AIルール＆ポリシー：特定の脆弱性（CWE）を回避するためのルールを機械可読形式でプロンプトに埋め込み、IDEから利用可能。
• Backslash IDE拡張機能：IDE内で人間およびAIが作成したコードをリアルタイムでセキュリティレビュー可能にする。
• Backslash MCP Server：モデルコンテキストプロトコル（MCP）に準拠したAPIを介してAIツールに安全なコード生成と脆弱性修正のための情報を提供。

Backslash Securityの共同創業者兼CTOのYossi Pik氏は、「AIが生成したコードは、大量の新しい脆弱性を生む可能性があり、セキュリティ担当者には悪夢のような状況になり得ます。しかし、適切なコントロールがあれば、むしろAIを通じてセキュリティを強化できます。当社のポリシーベースのルールとMCP Serverは、新しいコーディング時代においてセキュリティチームが最初から安全なコードを担保するための強力なツールです」と述べました。Backslash SecurityはRSAカンファレンス2025で、これらの新機能のデモを公開します。

Backslash Securityについて
Backslash Securityは、アプリケーションのデジタルツインを作成し、AI技術を活用したApp Graph上で脆弱性を管理します。コードに潜む「攻撃可能」な脆弱性の特定、ビジネスプロセス単位でのセキュリティ分析、AI生成コードのセキュリティ確保、アップデート影響のシミュレーションなどを通じて、従来の静的解析ツール（SAST、SCA）が抱える課題を克服します。先進的な企業は、Backslashを活用し、アプリケーションセキュリティの近代化と迅速な脆弱性修正を行い、競争力を強化しています。