OT管理者向けに作成されたものではあるが、新たな複数機関によるAIガイドラインは、ITネットワーク全般にも当てはまる問題を提起している。
重要インフラにおけるオペレーショナルテクノロジー（OT）のセキュリティは、長年にわたり繰り返し取り上げられてきたテーマだが、今週、米国家安全保障局（NSA）とその世界各国のパートナーは、新たな懸念を付け加えた。OTにおけるAIの利用拡大が、状況を悪化させるリスクをどのように高めているか、という点だ。
こうした懸念の範囲と、それに対処するための指針は、NSAがオーストラリア信号局（ASD）のオーストラリア・サイバーセキュリティセンター（ACSC）および各国の国家安全保障機関との協力で作成したPrinciples for the Secure Integration of Artificial Intelligence in Operational Technology（オペレーショナルテクノロジーにおける人工知能の安全な統合のための原則） にまとめられている。
重要インフラのOTにおけるAI活用はまだ初期段階にあるものの、このガイダンスは、悪用や誤用が固定化してしまう前に、NSAとそのパートナーが問題に先手を打とうとしているかのように読める。OT管理者向けに作成された文書ではあるが、そこで示されている懸念は、IT管理にも当てはまる内容を反映している。
現在、エネルギー、水処理、医療、製造といった分野のOTネットワークでは、他の分野と同じ理由でAIが活用されている。プロセスを最適化・自動化し、それによって効率と稼働時間を向上させるためだ。
懸念されているのは、組織が、その限界を十分に評価することなく、まだ実戦経験の浅い新技術に飛びついていることだ。これはITの世界で起きていることの反復でもある。産業用制御システム（ICS）のリスクを測定するためにパデュー・モデル階層を用いながら、ガイドラインでは、敵対的プロンプトインジェクションやデータポイズニング、安全性低下につながるデータ収集、そして新しいデータが学習データから乖離するにつれてモデルの精度が低下する「AIドリフト」などの懸念事項を列挙している。
さらに、AIにはエラーの原因を診断するために必要な説明可能性が欠けている場合があること、AIが急速に進化する中でコンプライアンス要件を満たすことが難しいこと、そしてAIへの依存が徐々に高まることで人間のスキル低下が起こることなども指摘されている。同様に、AIによるアラートが従業員の注意散漫や認知的過負荷を招く可能性もある。
最後に、チャットボットやLLM（大規模言語モデル）といったAI技術にありがちな「幻覚（ハルシネーション）」の傾向は、安全性が最優先される環境でこの技術を利用できるほど堅牢なのかどうかに疑問を投げかける。「AIは、産業環境において重要な決定を独立して下すには十分に信頼できない可能性があります。そのため、LLMなどのAIは、OT環境における安全性に関する決定に用いるべきではないことは、ほぼ間違いありません」と著者らは述べている。
これは、OT環境とIT環境でAIを利用する際の重要な違いを浮き彫りにしている。OTネットワークは本質的に安全性が最重要となる環境なのだ。多くの問題は共通しているものの、許される誤差の範囲ははるかに小さい。
解消に苦戦
「このガイダンスは、正しい問いを投げかけています。すなわち、どのようなリスクを持ち込んでいるのか、AIは本当にどのような価値をもたらすのか、監督責任は誰が負うのか、そして技術が誤作動したときにどう対応するのか、という点です」と、サイバーセキュリティトレーニングプラットフォームであるImmersive LabsのOTエンジニアであるSam Maesschalck 氏はコメントしている。「すでに、運用上の要求が安全な設計を上回ったときに何が起きるかを目の当たりにしてきました。IT/OTの融合は効率性をもたらしましたが、同時に、業界がいまだに解消に苦戦している形でOTネットワークをさらけ出してしまいました。」
Maesschalck氏によれば、既存の問題がまず解決されなければ、OTインフラにAIシステムを継ぎ足す試みは失敗するという。これには、一部のOTデバイスがAIプラットフォームに必要な量のデータを供給できないことや、資産インベントリが不足しているために問題のある相互作用を予測しにくくなっていることなどが含まれる。
ガイドラインの推奨事項の中には、組織がCISAのセキュアデザイン原則を採用することや、AIとOTを組み合わせたプロジェクトを自社内で開発することで、長期的にAIの設計と実装に対するコントロールを高められるかどうかを評価することなどが挙げられている。
「この種のガイダンスが影響力を持つのは、運用者が明確さを求めているからです。政府が支援する原則があれば、所有者やエンジニアは、安全性を欠いた導入や拙速な導入に異議を唱える際に、拠り所となる具体的なものを提示できます。また、教育がいかに不可欠であるかを再確認させるものでもあります」とMaesschalck氏は述べている。
