読了時間：5分
出典：Wavebreakmedia Ltd.（Alamy Stock Photo経由）
意見
ChatGPTやClaudeのようなAIエージェントに何を共有しているか考えてみてください。その情報には、ビジネスプランややり取りに関する愚痴、旅行計画、さらには競合調査などが含まれていませんか？
膨大かつ拡大し続ける個人データが、AIチャットボットに着実に投入されており、それによってあなたが次に何をしようとしているのかを明確に描き出すことができます。
2025年1月1日のパリセーズ火災で、12人が死亡し数千軒の家が焼失した事件について、検察は放火および殺人容疑を公開しました。法執行機関は容疑者のChatGPTログを使って事件を立証しました。
この事件は、意図がチャットボットの記録から追跡可能になったという明確なシグナルを発していると私は考えます。AIとのやり取りは、あなたの個人日記以上に機密性が高いものです。
DNAの痕跡や指紋、犯罪ドラマで見るあらゆる証拠よりも、あなたのスマートフォンにある個人データの方がはるかに重要です。リアルタイムのAIチャットボットとの会話記録と組み合わせることで、さらに微妙なニュアンスや文脈が加わることを考えてみてください。
ChatGPTや類似のツールは、これまでのどんなデジタル記録よりも、思考や動機、進行中の考え方を的確に捉えます。ChatGPTは告白の場、計画ボード、意図を映す鏡となっています。人々がどのように考え、構築し、試行錯誤するかをリアルタイムで記録します。
パリセーズ火災の前、容疑者はChatGPTを使って燃える森や逃げる人々の画像を作成したとされています。911通報中には「タバコから火事が起きた場合、あなたに責任があるのか？」とChatGPTに尋ねたとも報じられています。
これらのやり取りは、捜査官によって被告の犯罪計画のストーリーを追跡するために利用されています。もし敵対者の手に渡った場合、あなたの組織のAIチャット記録は将来のビジネス計画について何を明かすでしょうか？
企業秘密にとどまらず、これらのLLMが日常的に使われている企業では、後に法執行機関によって利用されうる新たな証拠が毎日生み出されている可能性があります。
すでに複数のAI企業が、犯罪の予兆と思われるユーザー活動を検知できることを示しています。たとえばOpenAIは「限定的な状況下で、OpenAI USおよびOpenAI Irelandは、死や重大な身体的危害の危険を伴う緊急事態を防ぐために必要と判断した場合、法執行機関にユーザーデータを開示することがあります」としています。
OpenAIやOpenAI、AnthropicなどのAI企業は、これらのシステムを悪用する外国の敵対者を検知する能力を大幅に向上させており、米国内で殺人やテロ行為を企てる人物に対しても同様の対策を講じていると想像できます。
これらの企業は、法執行機関への積極的な通報を行っていることをプレスリリースで発表していません。その代わり、ロシア、イラン、中国の国家関与の脅威アクターへの対策を強調する傾向にあり、そちらの方が評価されやすいからです。
AIを「イエス」にするには…安全に
ここでAIセキュリティについて話しましょう。
セキュリティ関係者の皆さん、私が見ているのはこうです：ガバナンスはしばしば否定の仕組みとなり、「ノーのセキュリティフレームワーク」を助長します。どの企業も、安全な実験と学習を可能にする構造へとセキュリティを進化させる必要があると私は考えます。「ノー」と言う理由はもう尽きつつあります。銀行、金融、医療などの高度に規制された業界でさえ、すでに「イエス」と言う方法を学び始めています。彼らはテストし、監督し、分散型セキュリティのための筋力を鍛えています。
企業が競争力を維持しつつシャドーAI問題を管理するには、社内のAI利用に対するデフォルトの答えが「PIIや制限データを含まない限りイエス」でなければならないと私は思います。この考え方が、CEOから現場担当者まで、イノベーションを可視化し、責任を持たせます。
サイバーセキュリティの観点からAIイノベーションを拒否するたびに、従業員は個人アカウントや他のブラウザ、プライベートツールに流れます。こうした回避策への動機は、セキュリティを軽視しているわけではなく、需要に応えようとしているのです。
そもそも「ノー」と言っても効果はほとんどありません。AIはあらゆるプラットフォームに組み込まれています。ChromeやBing、iPhoneアプリに組み込まれたツールをブロックしても、活動は見えないところで続きます。
子供がティーンエイジャーになると、すべてのデバイスを取り上げても失敗します。より良い方法は、何が安全で何がリスクで、どんな結果になるかを教えることです。ガバナンスも同じように、統制ではなく意識を高める形で運用すべきです。禁止は偽りの安心感を生みます。OneDriveリンクをブロックしても、人は添付ファイルをメールで送ります。データは動き続け、可視性は失われ、見えないリスクが増大します。
どうすればこれを実現できるのでしょうか？もし完璧な答えがあれば、私はすでにそれを売っているでしょう。
一つのアイデアとして―セキュリティ文化は中央集権化に傾きがちですが、AIはすでにあらゆる場所で動いています。分散型の監督はどのようなものになるでしょうか？各事業部門ごとに分散型セキュリティを設ける。観察し、指導し、教育するセキュリティ担当者がいる。「それもクライアントデータをアップロードしていますよ。理由はこうです」と言える人です。
セキュリティが関連性を保ち、ビジネスの競争力を維持するには、基準を「ノー」から「ガードレール付きのイエス」へとシフトさせる必要があります。AIを完全に理解している人はまだいません。その事実を認めることがリーダーシップの出発点です。
これを書きながら、映画フットルースを思い出しています。統制が厳しくなると反発が強まります。目標はダンスを止めることではなく、安全に行われるようにすることです。
私はSANS Institute Secure AI Blueprintを作成し、AI導入におけるガバナンスリスクに対応しました。これはAIの保護、活用、ガバナンスの3本柱に焦点を当てています。このフレームワークは、アクセス制御、監査性、モデルの完全性、人間による監督を通じて、AIシステムのガードレール設計を支援します。
今後の進化に向けて、皆さんのご意見をお聞かせください。LinkedInのDMはオープンです。
