英国のレッドチーマーはAIに「強い懐疑心」

新たな政府調査によると、攻撃的サイバーセキュリティの専門家は、AIを自社サービスに統合することに概ね失敗しており、その潜在的な利点について大きな懸念を示している。

2024年12月、科学・イノベーション・技術省（DSIT）は、レッドチームの専門家が新興技術をどのように製品・サービスへ統合しているかを調査するため、Prism Infosecに委託した。

その結果、AIよりもクラウド導入のほうが、提供されるこれらのサービスの種類に対してはるかに大きな影響を与えていることが分かった。

報告書は次のように指摘している。「圧倒的に、インタビューでは、この分野がAIの約束に対して強い懐疑心を抱き続けていることが示された。AIの能力の多くが過大評価され、製品で過度に用いられていると見なされており、その真の可能性と能力について混乱した環境を生み出している。」

「現時点で脅威アクターによるAIの最も一般的な利用は、より高度なソーシャルエンジニアリング攻撃を実行することだと認識されていた。こうした利用に伴う倫理的問題は別としても、インタビュー回答者は、データプライバシーのリスク、多大なコスト、公開モデルのセキュリティを、現在の提供内容における同技術の大規模な採用を妨げる理由として挙げた。」

AI導入について詳しく読む：サイバーAIトレンドレビュー：2025年に備える

回答者は、「より利用しやすいモデル」が市場に投入されれば、将来的に状況が変わることに期待を寄せていた。報告書によれば、これによりサイバーセキュリティ企業は、それらを自社でホストし、攻撃対象領域（アタックサーフェス）の監視、脆弱性調査と優先順位付けなど、多岐にわたる商用提供向けに調整できるようになるはずだという。

「しかし、技術がこの成熟度に達するまでは、この分野のレッドチーム領域は、商用の攻撃的サイバーサービス提供において、手作業による専門的な人間の取り組みに引き続き注力するだろう」と付け加えた。

Infosecurityに寄稿して 2023年の時点で、Prism Infosecの創設者フィル・ロビンソンは、AIはレッドチーマーにとって恩恵となり得ると主張していた。被害者の偵察や回避手法の開発を助けるだけでなく、顧客向けのポリシー文書やバグレポートの作成といった、より日常的な作業にも役立つという。

Prism Infosecの調査に回答した人々は、量子コンピューティングについても同様に否定的で、この技術は依然として「抽象的すぎて、研究室環境でしか実用にならない」と主張した。

報告書はさらに次のように付け加えた。「その代わりに、これまでテストするにはリスクが高すぎると考えられていた環境、例えば運用技術（OT）や自動運転車を含む環境の探索に、より多くの労力が注がれていた。これには、無人ドローンと並んで、陸・空・海の資産が含まれる。」