英国のレッドチーム担当者、「AIに非常に懐疑的」

攻撃的サイバーセキュリティの専門家たちは、サービスへのAIの統合にほとんど成功しておらず、その可能性のある利点について大きな懸念を示していることが、新たな政府の調査で明らかになりました。

2024年12月、科学・イノベーション・技術省（DSIT）は、Prism Infosecに対し、レッドチームの専門家が新興技術をどのように自社の製品やサービスに統合しているかを調査するよう依頼しました。

調査によると、クラウドの導入が、AIよりもこれらのサービスの種類に遥かに大きな影響を与えていることが分かりました。

「私たちのインタビューから明らかになったのは、この業界がAIの約束に対して非常に懐疑的であり、多くのAIの能力が誇張され、製品で過度に使用されていると考えられていることです。そのため、AIの本当の可能性や能力について混乱した状況が生まれています」と報告書は述べています。

「現時点で脅威アクターによるAIの最も一般的な利用は、より高度なソーシャルエンジニアリング攻撃の実行であると認識されていました。このような利用の倫理的な問題に加え、インタビュー対象者はデータプライバシーのリスク、大きなコスト、パブリックモデルのセキュリティといった点を、現在のサービスへの技術の大規模導入を妨げる理由として挙げていました。」

AI導入についてさらに読む：サイバーAIトレンドレビュー：2025年への備え

回答者たちは、「よりアクセスしやすいモデル」が市場に登場することで、今後状況が変わることに期待を寄せていました。これにより、サイバーセキュリティ企業は、攻撃対象領域の監視、脆弱性調査や優先順位付けなど、多様な商用サービス向けにモデルをホストし、調整できるようになるだろうと報告書は指摘しています。

「しかし、技術がこの成熟度に達するまでは、業界のレッドチーム部門は、商用の攻撃的サイバーサービスの提供において、引き続き手動による専門的な人間の努力に注力し続けるでしょう」とも付け加えています。

Infosecurity誌で2023年の時点で、Prism Infosecの創設者フィル・ロビンソン氏は、AIはレッドチーム担当者にとって有益になり得ると主張していました。これは、被害者の調査や回避技術の開発だけでなく、クライアント向けの方針文書やバグレポート作成といった日常的な作業にも役立つ可能性があるというものです。

Prism Infosecの調査に回答した人々も、量子コンピューティングについて同様に否定的であり、「技術はまだ抽象的すぎて、実験室環境でしか実用的でない」と主張しました。

報告書はさらに、「その代わり、運用技術や自動化車両など、以前はテストするにはリスクが高すぎると考えられていた環境、すなわち陸・空・海の資産や無人ドローンを含む分野の調査に、より多くの努力が注がれている」と述べています。