新たにリリースされた技術レポートは、人工知能が国家インフラに対する高度なサイバー攻撃で積極的に使用されているという以前の警告を確認しました。
メキシコ政府の複数の機関を標的とした事件は、商用のAIツールがいかに大規模なサイバー作戦を自動化するために流用され、以前は達成不可能だと考えられていた速度と精度で実行されるかを示しています。
侵入から回復されたフォレンジック成果物は、複雑で高度に自動化されたワークフローを示しています。攻撃者は、サーバーテレメトリーをOpenAIのAPIにパイプする17,550行のPython管理スクリプトを作成しました。
305台以上の内部サーバーからのデータは、2,597個の構造化された「インテリジェンスレポート」に処理され、各レポートが資産、サービス、ユーザー、およびネットワーク関係をマップしました。
この合成されたアウトプットにより、オペレーターは数時間以内に悪用可能なターゲットを迅速に特定し、カスタマイズされた攻撃スクリプトを作成しました。
調査官は、回復されたマテリアル内で400以上のユニークなスクリプトを発見しました。これには、20の異なる共通脆弱性と露出（CVE）に対応する20個の適応されたエクスプロイトが含まれています。
34個のライブセッションからのメタデータは、1,088個のログされたプロンプトを明かし、それが5,300を超えるAI実行コマンドを生成しました。
より広い影響はメキシコの国境を超えて拡大しています。生成AIを攻撃的な方法と融合させることにより、攻撃者は最小限の人的労力で作戦をスケールできるようになりました。
AIは、大規模で複雑なネットワークに侵入するために必要なスキルの閾値と時間コストの両方を削減し、かつて国家支援脅威グループのために予約されていた能力を効果的に民主化しています。
悪用された各ベクトルは、既存のセキュリティ制御を通じて軽減される可能性がありました。しかし、長年の保守延期は、自動化駆動攻撃の完璧な舞台を作成しました。
セキュリティ専門家は、この事件が転換点を示していると指摘しています：防御態勢は予防から継続的な回復力へ進化する必要があります。
検出と対応システムは、リアルタイムでツールを再構成できる敵に適応する必要があります。
予測可能な攻撃者の行動に依存する伝統的な手法は、AIが人間のアナリストが反応するより速く、コード生成、フィッシングペイロード作成、テレメトリー分析を同時に実行できるようになったときは、もはや十分ではないかもしれません。
レポートはさらに、商用AIプロバイダーが自分たちのプラットフォームが新しい方法で標的にされたり悪用されたりする可能性があると警告しています。
OpenAIもAnthropicも侵入に直接関与していませんでしたが、それらのAPIはこの作戦に不可欠でした。両社はその後、自動コード実行ワークロード用の拡張されたセーフガードと使用監視を発表しました。
メキシコキャンペーンは、生成AIがいかに攻撃的作戦を変革できるかの初期のブループリントとして機能しています。
これはサイバーセキュリティにおけるAIの莫大な可能性と警告的な責任の両方を実証しています。
AIが攻撃のテンポを加速させるにつれて、妥協と封じ込めの間のマージンは縮小し続け、復元力が予防ではなく、次のサイバー防御の時代を定義する可能性があることを示唆しています。
翻訳元: https://cyberpress.org/ai-tools-target-agencies/