AIは一呼吸置いてから――CISAがOT運用者に呼びかけ

人工知能を産業システムに性急に統合するのは賢明とは言えないとして、米国サイバーセキュリティ・インフラストラクチャ安全保障庁（CISA）と国内外のパートナーは今月初めに警告した。

同庁は、重要インフラの所有者がAIを運用技術（OT）や産業制御システムに導入する前に検討すべきリスクの非網羅的なリストとともに、高レベルの原則一式を公表した。

「私たちは［運用者が］AIを魔法のブラックボックスのように扱ってほしくありません」と、CISAのICSサイバーセキュリティ担当上級アドバイザーであるマット・ロジャースは説明した。「AIはソフトウェアであり、適切なリスク許容度のもとでシステムに組み込む必要があります。」

CISAとパートナーは、過去18〜24カ月の間に企業、特にOT技術ベンダーが、見境なくあらゆる製品にAIを統合しようと急速に奔走する状況の中で、このガイダンスを策定した。

当初、ロジャースによれば、この原則は「ベンダーに対してAIの利用について尋ねられる質問のチェックリストのようなもの」として作られた。運用者が、セキュア・バイ・デザインのコーディングや開発慣行についてベンダーに確認するために持つべき質問リストと同種のものであり、理由も同じだ。ほかの新しいソフトウェアと同様に、AIは攻撃対象領域の拡大と新たなリスクをもたらし、それらは最小化し管理する必要がある。

運用者は、例えばソフトウェア開発プロセスにおいてベンダーがどのようにAIを用いているのか、またそれに伴うサプライチェーンリスクの問題について認識しておく必要がある、と彼は説明した。「ベンダーが開示していないために、［運用者が］誤ってAIをインストールし、入っていることに気づかないような事態は避けたかった」とロジャースは述べ、あるいは小さな注意書きでしか示されない場合もあるとした。

一部の論者は、具体性や詳細な実務的助言の欠如に物足りなさを示した。「新しい原則は有用な高レベルのロードマップを提供している」と、Pillsbury Winthrop Shaw Pittman法律事務所のパートナーであるブライアン・フィンチは記した。「しかし、組織が乗り越えなければならない実務上の問い――ガバナンスをどう運用に落とし込むか、ベンダーをどう評価するか、責任をどう配分するか、AIの考慮事項を長年の安全・コンプライアンス枠組みにどう組み込むか――には答えきれていない。」

ただし、この原則は、標準に基づく調達要件や規制要件の可能性を示唆しているとも、フィンチと同僚のオースティン・チェギーニは付け加えた。「AI対応のOT製品には、モデルの開示や安全性報告を含む、より高いベンダー透明性が求められる可能性がある。」

OT市場の少なくとも一角では、特にソフトウェア開発に関しては、AIという猫はすでに袋から出てしまっていると、RunSafe Securityの創業者兼CEOであるジョセフ・サンダースは述べた。同社は組み込みソフトウェア向けのセキュリティツールを提供しており、米国、英国、ドイツの重要インフラOTにおける組み込みシステムに携わる200人超の専門家を調査した。

83%超が、AI生成コードを本番システムに投入していた。ほぼ同数の80%が、現在ソフトウェア開発でAIツールを使用していた。

この調査はベンダーと運用者の双方を対象としており、両者ともAnthropicのClaudeのような生成AIプログラムを使用していたと、ロジャースは述べた。

シェルやデュークのような運用者はベンダーからソフトウェアを購入する一方で、自社でもソフトウェアを書く。彼はそう指摘した。「そのソフトウェア・エコシステムにおけるサプライチェーンの複雑さは、プロセスのどのプレーヤーもソフトウェア開発でAIを使っている可能性があると考えると、さらに増す」とサンダースは述べた。

すべてのベンダーが組み込みAIの開示に同じように長けているわけではない。AIのゴールドラッシュに乗り遅れまいとして、新機能を急いで本番投入する場合はなおさらだ。

「これだけ多くの新規参入者が市場に入ってくれば、全員がサイバーセキュリティに注力するわけではありません」とロジャースは述べた。

CISAがガイダンスを作成する中で、AIの利用拡大に関心を持つ運用者からの声が聞こえ始めたと、ロジャースは述べた。機械学習アルゴリズムの中には、予知保全、系統負荷のバランシング、安全システムなどを通じて、すでにOTシステムを支えているものもある。「運用者はこれらのユースケースに非常に慣れています」とロジャースは述べた。

しかし「AI業界の熱狂が、より多くの［運用者］にこうした機械学習型ソリューションの採用を促した」と彼は述べた。それらは新しい解決策ではないが進化しており、「人々がより意識するようになり、異なる形でマーケティングされるようになった今、適切な質問をしていることを確かめたかった」という。

別の運用者は、GenAIの大規模言語モデルの可能なユースケースに「興味がある」ため、ガイダンスを求めた。

「ここは伝統的に非常にリスク回避的なコミュニティです。だからこそ、［原則文書についての］会話がベンダー主導ではなく、運用者が求めて始まったというのは、かなり驚きでした」とロジャースは述べた。

最終文書は、AIをOTシステムに導入することによる10のリスクについて、ソフトウェア自体のサイバーセキュリティから、インシデント分析を妨げ得る説明可能性の欠如に至るまで、非網羅的なリストとして示し、それぞれに対する可能な緩和策も併記している。

また文書は、運用者が自らのデータの品質と価値を理解するよう警告している。「私たちは、運用者が自分たちのデータの価値を損なってしまっている例を非常によく見ます。もちろん製造業は別で、人々は自社の知的財産の価値を理解していますが」とロジャースは述べた。

この原則はCISAに加え、NSA、FBI、豪州信号局のオーストラリア・サイバーセキュリティ・センター、カナダ・サイバーセキュリティ・センター、ドイツ連邦情報セキュリティ庁、オランダ国家サイバーセキュリティセンター、ニュージーランド国家サイバーセキュリティセンター、英国国家サイバーセキュリティセンターによって支持された。