NCSC、シャドーAIが新たなセキュリティリスクを生むと警告

英国の国家サイバーセキュリティセンター(NCSC)は、従業員が未承認のAIツールを使用することで企業データが流出し、組織が検知・管理に苦慮するセキュリティリスクが生じる恐れがあると警告しました。

9月7日に公開されたNCSCのブログ記事によれば、従業員が組織による評価や承認済み代替ツールの提供が追いつかないペースで新しいサービスを取り入れているため、シャドーAIは今後も続く可能性が高いとしています。

同機関はMicrosoftの調査結果を引用し、英国の従業員の71%が雇用主の承認を得ていないAIツールを使用した経験があると紹介しました。NCSCは、この調査結果からシャドーAIの利用が広く浸透していることがうかがえるとしています。

未承認AIツールが生む可視性の空白

シャドーAIとは、組織が承認したシステムやプロセスの枠外にあるAI技術を指し、シャドーITの一形態です。

NCSCのアーキテクチャ担当CTOであるDavid Chismon氏は、「多くの人が職場でAIの恩恵を受けており、雇用主が正当にそれを後押ししているケースも見られますが、ITセキュリティチームは自分たちが全体像を把握できていると思い込むべきではありません」と述べています。

NCSCは、シャドーAIに企業データや顧客データへのアクセスを許した従業員は、データ侵害や知的財産の喪失、規制要件への違反といったリスクを高める可能性が高いとしています。

同ブログ記事によれば、既存のサイバーセキュリティポリシーが事業上のニーズを満たせない場合に問題が生じやすく、雇用主による評価を経る前に従業員が新しいサービスを導入してしまう要因になっているといいます。

NCSCはさらに、AIエージェントが重大な脆弱性を抱える可能性があり、攻撃者がそれを悪用すれば、そのエージェントが正当に保有していたデータやサービス、権限をそのまま奪える恐れがあるとも警告しています。

同機関は、攻撃者がガードレールの緩いエージェントを利用して、企業IT環境の他の場所にある脆弱性や設定ミスを突いてくる可能性が非常に高いと説明しています。

NCSCによれば、機密情報を消費者向けAIサービスに渡した従業員は、その情報が保存・保持されたり、サービス改善のために利用されたりする可能性があるため、組織側がその情報に対して持つ可視性と管理力を低下させてしまう可能性が高いとしています。

同機関は、シャドーIT全般と同様に、組織はシャドーAIを完全になくすことよりも低減することに重点を置くべきだと警告しました。また、従業員がセキュリティの問題について率直に話し合えるよう、前向きなサイバーセキュリティ文化を醸成することを推奨しています。

Chismon氏は、「組織があらゆるAIツールへの接続をすべて遮断することは望めません。だからこそ、従業員が使いたいと考えるツールについてオープンに対話できる前向きなサイバーセキュリティ文化を築き、AIの安全な利用がどのようなものかを示す明確な指針を定める必要があります」と述べています。

NCSCはまた、国際的なパートナーとともに公開した、エージェント型AIサービスの慎重な導入に関するガイダンスにも言及しています。