AI疲れを乗り越える

AIは今や、企業の中のあらゆる場所に存在しています。私が話をする多くのCISOは、前に進みたい気持ちはあるのに、どこから始めればよいのか分からず、板挟みになっていると感じています。セキュリティ領域でのAI活用も、組織内でAIを安全にすることも、どちらも間違えるのではないかという恐れが、しばしば取り組みを始める前に止めてしまいます。とはいえ、クラウド、モバイル、DevOpsといった他の大きな技術の波とは異なり、AIがビジネスの隅々にまで完全に根付く前に、私たちはAIにガードレールを設けるチャンスがあります。これは稀な機会であり、無駄にすべきではありません。

AI疲れから、切実に必要な明確さへ

混乱の大きな原因の一つは、「AI」という言葉そのものにあります。私たちは、マーケティング文を下書きするチャットボットの話にも、インシデント対応のプレイブックを生成して実装する自律エージェントの話にも、同じラベルを使っています。技術的にはどちらもAIですが、リスクはまったく同じではありません。AIの誇大宣伝を最も簡単に見抜く方法は、システムがどれだけ自立しているか、そして何かがうまくいかなかった場合にどれほどの損害を与え得るかに基づいて、AIをカテゴリに分けることです。

一方の端にあるのが生成AIです。これは自分で行動するのではなく、プロンプトに応答します。コンテンツを作成し、調査や執筆を助けます。ここでのリスクの大半は、人が本来すべきでない使い方をしてしまうことに起因します。機微なデータを共有する、独自のコードを貼り付ける、知的財産を漏えいさせる、などです。良いニュースは、これらの問題は管理可能だということです。明確な許容利用（Acceptable Use）ポリシー、GenAIツールに入力してはいけないものに関する教育、そして実効性のある技術的コントロールの実装によって、生成AIに関するセキュリティ上の考慮事項の大部分に対処できます。

企業がGenAIに意思決定へ影響させるようになると、リスクは増大します。基盤となるデータが誤っていたり、汚染されていたり、不完全だったりすれば、そのデータの上に構築された推奨も誤ったものになります。ここでCISOが注目すべきは、データ保護だけでなくデータ完全性です。

そしてスペクトラムのもう一方の端にあるのがエージェント型AIです。ここでは賭け金が上がります。エージェント型システムは質問に答えるだけではなく、行動します。時には選択も行います。人の関与がほとんどないまま、ワークフローを起動したり、内部システムとやり取りしたりできるものもあります。システムが自立すればするほど、潜在的な影響は大きくなります。そしてGenAIとは異なり、「より良いプロンプト」で問題を解決することはできません。

エージェント型AIが「悪い振る舞い」に逸脱した場合、その結果は極めて速く現れ得ます。だからこそCISOは、今このカテゴリに先回りして取り組む必要があります。ビジネスが自律システムに依存し始めてしまうと、後から安全策を付け足そうとしても、ほとんど不可能です。

なぜCISOには実はここでチャンスがあるのか

セキュリティの世界に十分長くいるなら、ビジネスが先行し、セキュリティが後追いを求められた技術の波を少なくとも一度は経験しているはずです。最近の例としてはクラウド導入があります。そして一度その列車が駅を出てしまえば、後戻りはできず、減速することもありませんでした。

AIは違います。ほとんどの企業は――最も先進的な企業でさえ――AIに何を求め、どう展開するのが最善かをまだ模索しています。テック業界以外では、多くの経営層が明確な戦略もないまま試行しているのが実情です。これはCISOが早い段階で期待値を設定できる窓を生みます。

今こそ「破ってはならないルール」を定義し、AIのリクエストをどのチームがレビューするのかを形作り、意思決定の方法に構造を与える時です。今日のセキュリティリーダーは、過去の技術シフトよりも影響力を持っており、AIガバナンスは役割の中でも急速に最も戦略的な責務の一つになっています。

データ完全性：AIリスクの基盤

CIAトライアドについて語られるとき、「完全性（Integrity）」はたいてい最も注目されません。多くの組織では、アプリケーションがバックグラウンドで静かに完全性を扱っています。しかしAIは、その捉え方を変えます。

AIシステムに供給されるデータが侵害されていたり、不完全だったり、不正確だったり、操作されていたりすれば、そのデータの上に構築された意思決定は、財務プロセス、サプライチェーン、顧客対応、さらには物理的安全にまで影響し得ます。CISOの仕事には今、AIシステムが保護されたデータだけでなく、信頼できるデータに依拠していることを確実にすることが含まれます。この二つは、もはや同じではありません。

AIガバナンスのためのシンプルな階層型アプローチ

さまざまなAIユースケースを理解するために、私は階層型アプローチを推奨します。これは、多くの企業がすでにサードパーティリスクを扱う方法を反映しています。リスクが高いほど、より厳しい精査とコントロールを適用します。

ステップ1：AI利用を分類する

実用的なAIガバナンス・プログラムは、各ユースケースを2つの中核指標に基づいて分類することから始まります。すなわち、システムの自律性のレベルと、潜在的なビジネス影響です。自律性は、反応型の生成AIから、意思決定支援、人間が介在するエージェント型システム、そして最終的には完全に独立したAIエージェントまで、連続的なスペクトラムに広がります。

各AIユースケースは、ビジネスへの影響について評価され、影響を低・中・高のいずれかに単純に分類する必要があります。  低影響・低自律のシステムは軽量な監督で足りる場合がありますが、高自律・高影響のユースケースは、正式なガバナンス、厳格なアーキテクチャレビュー、継続的な監視――そして場合によっては明示的な人の監督やキルスイッチの追加――を要求します。この構造化されたアプローチにより、CISOはより厳格なコントロールが必要なタイミングと、ゼロトラスト原則のような概念をAIシステム内部に適用すべきタイミングを迅速に判断できます。

ステップ2：すべてのAIに共通する最低限のコントロールを定義する

リスクの階層化が整ったら、CISOは基盤となるコントロールがすべてのAI導入に一貫して適用されることを確実にしなければなりません。技術の高度さにかかわらず、すべての組織には、明確で実施可能な許容利用ポリシー、AI固有のリスクに対処するセキュリティ意識向上トレーニング、そしてデータ漏えいや望ましくない振る舞いを防ぐ技術的コントロールが必要です。異常なAIアクティビティに対する基本的な監視は、低リスクの生成AIユースケースであっても、安全で予測可能な境界内で運用されることをさらに保証します。

ステップ3：AIレビューをどこで行うかを決める

これらの基盤が確立されたら、組織はAIガバナンスが実際にどこで行われるのかを決めなければなりません。適切な場は、組織の成熟度と既存の仕組みによって異なります。確立されたアーキテクチャレビュー委員会や、プライバシー／セキュリティ委員会にAIレビューを統合する企業もあれば、専任の部門横断的なAIガバナンス組織が必要な企業もあります。どの構造を選ぶにせよ、効果的なAI監督には、セキュリティ、プライバシー、データ、法務、プロダクト、オペレーションからのインプットが必要です。ガバナンスを単一部門の責任にすることはできません――AIの影響は企業全体に及ぶため、その監督も同様に企業全体に及ぶ必要があります。

ステップ4：破ってはならないルールと重要なコントロールを確立する

最後に、いかなるAIユースケースも承認される前に、組織は譲れないルールと重要なコントロールを明文化しなければなりません。これらはAIシステムが決して越えてはならない境界であり、たとえばデータを自律的に削除することや、機微情報を露出させることなどです。明示的な人の監督を必要とするシステムもあり、人間が介在する仕組みを回避できるエージェント型AIには、信頼できるキルスイッチを必ず含める必要があります。

最小権限アクセスとゼロトラスト原則はAIシステム内部にも適用されるべきであり、意図した以上の権限や可視性を継承してしまうことを防ぎます。これらのルールは動的であるべきで、AIの能力やビジネスニーズの変化に合わせて進化させる必要があります。

AIはもはや任意ではないが、良いガバナンスも任意ではあり得ない

CISOが機械学習の専門家になる必要はありませんし、ビジネスのスピードを落とす必要もありません。必要なのは、AIリスクを判断し、導入が進む中でも安全を保つための、明確で実行可能な方法です。AIを理解しやすいカテゴリに分解し、シンプルなリスクモデルと組み合わせ、適切な人々を早期に巻き込むことは、圧倒される感覚を大きく減らす助けになります。

AIは企業のあらゆる領域を再形成します。問題は、誰がAIを形作るのかです。久しぶりに、CISOにはルールを定めるチャンスがあります――それを必死に後追いで執行するのではなく。

今この瞬間をつかめ！

この記事はFoundry Expert Contributor Networkの一環として公開されています。
参加したいですか？