Googleは初めてゼロデイAIエクスプロイトを検出し、二要素認証を突破するものをブロックしました

GoogleはAIで作成されたゼロデイエクスプロイトを発見

*事実の概要*

Google Threat Intelligence Group（GTIG）は初めて新しいゼロデイエクスプロイトを検出し、ブロックしました。エクスプロイトの作者は人間が手作業で書いたのではなく、人工知能によって生成されました。攻撃対象はオープンソースのシステム管理ウェブアプリケーションの二要素認証（2FA）に大規模な介入を試みるものです。AIの痕跡はPythonコード内の「署名」―偽のCVSS評価、典型的な「学習用」フォーマット、および大型言語モデル（LLM）特有のパターンとして認識されました。脆弱性の原因はロジックエラーであり、開発者があるシステムコンポーネントを常に安全と仮定し検証しなかったためです。この未検証要素を通じて攻撃者は2FAを回避しました。攻撃対象はGoogleによって具体的には公開されていません。Geminiの役割について、研究者らはエクスプロイト作成にGeminiモデルが使用されなかったと述べています。予防策として、攻撃は大規模化する前に停止されました。

GTIGがさらに指摘した点
1. 新しい攻撃手法
攻撃者はAIを悪意あるコードの作成だけでなく、自身のAIシステムインフラストラクチャを「迂回」させるためにも利用しています。

2. 役割欺瞞
ハッカーは自分がセキュリティ専門家であるかのように要求を構築し、モデルに設計上の制限とは異なる振舞いを強いる手法です。

3. 大規模データベースのロード
モデル内部には膨大な脆弱性カタログが読み込まれ、その後OpenClawツールで悪意あるプログラムを制御環境でデバッグし、実際に展開する前にテストします。

結論
Googleはコードの詳細分析と機械学習「署名」の認識によってAIで作成されたエクスプロイトを検出・中和できました。これはアプリケーションロジックの継続的な検証と、攻撃者がAIを攻撃ツールとしてだけでなく、防御メカニズム自体を迂回する手段としても利用し得ることへの認識の重要性を強調しています