AIの登場により、プライバシー、サイバーセキュリティ、オンラインの安全をめぐる物語は、見覚えのある転換点を迎えています。次世代の技術が取り返しのつかない結果をもたらす前に、数十年にわたるサイバーセキュリティの経験を生かす機会が私たちには残されています。
その責任の重さを私に教えてくれたのは、ここでは「アディア」と呼ぶ3歳の女の子でした。この名前は、本人を守るための仮名です。
アディアは、インターネット上にアップロードされた児童性的搾取の画像に写っていました。捜査員は、彼女がどこにいるのかを突き止め、管轄にあたる当局を特定し、介入する権限を持つ法執行官に、実行可能な情報を届けなければなりませんでした。搾取を可能にする技術は世界規模で、ほぼ瞬時に作動します。一方、子どもを守る側の仕組みは、情報の分断や法的な境界、旧来の手続きに縛られたままでした。
当時、その手続きの一部には約30日かかることがありました。3歳の子どもにとって、これは許されない遅れです。救出までさらに30夜を要することを意味していました。
私は「Intel Inside, Safer Children Outside」の取り組みを通じて、テクノロジー企業、非営利団体、法執行機関が手を組む官民連携の主導に携わりました。目的は、実行可能な情報を届けるまでの時間を短縮することでした。この取り組みにより、およそ30日かかっていたプロセスを約24時間にまで縮められました。
この経験は、私のキャリアで最も重要な教訓の一つを裏付けてくれました。デジタル犯罪が人の安全を脅かすとき、競合同士は協力者になれるということです。
市場では激しく競い合う企業でも、使命が個々の組織の商業的利益を超えるときには、専門知識を共有し、技術力を結集し、政府と並んで行動できます。
必要だったのは、特定の企業が解決策を独占することではありません。明確な目標と適切な法的権限、そして測定可能な成果のもとで、しかるべき専門家が力を合わせることでした。
テクノロジー業界で30年近く、Intelでの勤務も含めて働いてきた私は、AIの安全性にも同じアプローチが必要だと考えています。
技術の非対称性が再び生まれている
AIシステムは、ソフトウェアを生成し、企業のアプリケーションとやり取りし、機密情報にアクセスし、複雑なワークフローを人間の関与をほとんど介さずに実行できます。こうした能力は経済的にも社会的にも大きな可能性をもたらしますが、新たな攻撃対象領域と運用上のリスクも生み出します。
サイバーセキュリティの専門家にとって、根底にある懸念の多くは見慣れたものです。ID・アクセス管理、最小権限、データ保護、サプライチェーンセキュリティ、脆弱性管理、インシデント対応は、今も欠かせません。
ただし、自律性を高めるシステムは、さらなる複雑さを持ち込みます。組織は、AIシステムが本来備える能力が許容できない結果を招きかねないかどうかを、評価しなければなりません。
過剰な権限を持つ自律型エージェントは、許可されていない操作を実行してしまうおそれがあります。プロンプトインジェクション攻撃は、正当なワークフローを操作できます。侵害された連携先は、機密情報を露出させたり、接続されたシステム全体に連鎖的な障害を引き起こしたりしかねません。
こうしたリスクは、AIが医療、金融サービス、政府、重要インフラに導入される場合に、とりわけ深刻な結果につながります。
技術の進化は、多くの組織がセキュリティアーキテクチャ、調達プロセス、ガバナンス体制を適応させる速度を上回っています。
私たちは、こうした構図を以前にも目にしてきました。問われているのは、そこで学んだことを実際に生かせるかどうかです。
エンジニアリング、法律、技術の専門家が主導すべきだ
現在、私はGlobal Council for Responsible AI（GCRAI）のコミッショナーを務め、同評議会の国際AI安全委員会（International AI Safety Commission）と、国際AI安全レッドライン（International AI Safety Red Lines）の取り組みを率いています。
私たちの目標は、自律型AIシステムの境界線の確立を支援し、その境界線を実用化に向けて前進させることです。
AI安全性の次の段階では、リーダーシップと実行の両面で転換が必要だと考えています。
私たちは長年、責任あるAIの原則や倫理的な論点、起こりうる将来のリスクについて議論してきました。こうした議論には価値がありましたが、原則だけでインフラを守ることも、アクセス制御を徹底することも、法的な説明責任を確立することもできません。
いまこそ、複雑なシステムがどのように構築、保護、規制、運用されるかを理解している人々を、取り組みの中心に据えるべきときです。
エンジニアには設計と開発を任せましょう。サイバーセキュリティの専門家にはシステムを検証してもらいましょう。法律の専門家には、実効性のある説明責任を確立してもらいましょう。インフラ事業者には、運用上何が実現可能かを見極めてもらいましょう。
AI研究者は、危険な能力を定義し評価する役割を担います。データアーキテクトは、情報の完全性、アクセス、来歴の問題に取り組まなければなりません。セキュリティ専門家は、脆弱性を特定し、有効な対策を整える必要があります。法務・規制の専門家は、管轄、責任、執行可能性を評価しなければなりません。
政策立案者、市民社会、影響を受けるコミュニティも、許容できるリスクを定め、公共の利益を守るうえで欠かせない役割を担います。技術面のリーダーシップは、こうしたシステムの結果を実際に受け止める人々の声を踏まえたものでなければなりません。
これは、単一の分野、機関、企業が独力で解決できる課題ではありません。
デジタル犯罪への対処で私たちを支えたのと同じ原則が、ここでも当てはまります。競合同士であっても、イノベーションで競う力を手放すことなく、安全性では協力できるのです。
責任あるAIの原則から、実効性のあるレッドラインへ
国際AI安全レッドラインの取り組みは、根本的な問いに焦点を当てています。ますます自律性を高めるAIシステムには、どのような能力や振る舞いを決して許してはならないのか、という問いです。
責任あるAIの原則は、透明性、公平性、説明責任、プライバシー、人間による監督に関する重要な期待を定めています。これに対してレッドラインは、リスクが許容できなくなる境界を定めるためのものです。
たとえば組織は、自律型システムが許可された権限を超えること、人間による監督を回避すること、深刻なサイバー攻撃を助長すること、重要インフラを危険にさらすことを、どう防ぐかを決めなければなりません。
こうした境界線は、最終的には、実装し、テストし、第三者が評価できる技術要件へと落とし込まれる必要があります。
人間による監督を約束することと、自律型システムを中断または封じ込められると実証することは、同じではありません。機密データを守ると宣言することと、AIエージェントが許可された範囲外の情報にアクセスできないと証明することも、同じではありません。
サイバーセキュリティは、この区別の重要性を教えてくれました。
責任あるAIは約束です。実証可能なAIの安全性は、エンジニアリングとガバナンスの規律です。
2026年の国連総会週間にニューヨークで、私たちは国際AI安全レッドラインの調査結果を携え、テクノロジー、政府、医療、金融サービス、国際ガバナンスの各分野のリーダーたちと議論を重ねました。
国際的な視点が重要なのは、AIシステムが企業や国の境界を越えて動いているためです。モデルはある国で開発され、別の国でホストされ、世界中の重要なサービスに組み込まれることがあります。
実効性のある安全対策には、技術的な相互運用性、説明責任、そして管轄をまたいだ協力が不可欠です。
次の優先課題は、オープンな技術的検証を通じてレッドラインを前進させることです。サイバーセキュリティ専門家、AI研究者、インフラ事業者、法律の専門家などの関係者が、前提に異議を唱え、弱点を洗い出し、取り組みを改善できるようにすべきです。
信頼性は、枠組みが検証に耐え、意味のある成果を生み出せると示すことで築かれます。
サイバーセキュリティはすでにロードマップを示している
私が技術分野でキャリアを歩み始めた頃、サイバーセキュリティは全社的な経営責任ではなく、IT部門の機能として扱われることが少なくありませんでした。
やがて、サイバーインシデントの規模と影響が拡大するにつれ、その認識は変わりました。セキュリティは取締役会レベルの関心事となり、技術標準、ガバナンスの枠組み、規制要件、第三者評価、調達時の要求事項によって支えられるようになりました。
プライバシーも、個人情報の保護により明確な義務を課されるようになり、同様の道をたどりました。
決定的な転換は、自発的な約束から、実証可能な説明責任へと移ったことでした。
組織は、セキュリティを重視していると主張するだけでは済まなくなりました。顧客、規制当局、取引先は、有効な対策が講じられている証拠をますます求めるようになったのです。
AIの安全性も、同じ転換点に近づいています。
すでに私たちには、NIST AIリスクマネジメントフレームワーク、ISO/IEC 42001、ISO/IEC 27001、確立されたサイバーセキュリティの保証実務といった、価値ある土台があります。
これらの枠組みはリスクの異なる側面を扱っており、単独で自律型AIシステムの安全を保証するものではありません。しかし、一貫した期待と測定可能な安全策を築くうえで、重要な基盤となります。
次の段階では、誰の目にも明らかな手順を踏むべきです。原則を確立し、許容できない境界を定義し、その境界を測定可能な統制に落とし込み、適切な標準と整合させ、有効性を第三者が評価し、遵守状況を継続的に監視します。
時間をかけて、十分に厳格でテスト可能な要件が整えば、信頼できる認証制度やその他の第三者による保証の仕組みを支えられるようになるでしょう。
目指すべきは、AIシステムが定められた安全の境界内で動作していることを示す、根拠ある証拠です。
AIが責任ある存在だと言うだけでなく、証明してほしい
病院、金融機関、エネルギー企業の内部に、自律型AIエージェントを導入するかどうかを評価する最高情報セキュリティ責任者（CISO）を想像してみてください。
従来のベンダーリスク評価でも、インフラのセキュリティ、暗号化、ID管理、脆弱性、インシデント対応、規制遵守はすでに扱われています。
AIは、そこに新たな問いを加えます。
このシステムは、許可された権限を超えられるのか。悪意ある指示によって、その振る舞いを操作できるのか。連携するツールや機密データは、どのように保護されているのか。危険な動作を検知し、中断できるのか。基盤となるモデルが変わったときに何が起きるのか。安全策が有効であり続けていることを示す、第三者による証拠は何か。
こうした問いには、技術的な答えが求められます。
組織には、統制目標、再現可能なテスト手法、ログ記録、監視、文書化された対応手順、そしてシステムに実質的な変更があった際の再評価の仕組みが必要です。
調達は、この転換を加速させられます。政府や企業は、機微な環境や影響の大きい環境でAIを導入するベンダーに対し、リスクベースの要件を設けることができます。
病院は、臨床用AIシステムが承認された意思決定の範囲内で動作している証拠を求められます。金融機関は、不正な取引を防ぐ安全策を要求できます。重要インフラの事業者は、封じ込め、人間による介入、運用復旧に関する要件を定められます。
サイバーセキュリティが「あれば望ましいもの」から「なくてはならないもの」へと進化したのは、こうした道筋をたどったからです。AIの安全性も、同じ道をたどれるはずです。
AI安全のための人的インフラを築く
この転換には、もう一つ重要な機会があります。
AIと雇用をめぐる世間の議論は、仕事が置き換えられることに集中しがちです。そうした懸念は真剣に受け止めるべきですが、AIの拡大は、専門的な人材への需要も生み出します。
サイバーセキュリティの歴史は、参考になる比較対象です。デジタルインフラが広がるにつれ、組織はセキュリティアーキテクチャ、ペネトレーションテスト、脅威インテリジェンス、インシデント対応、プライバシーエンジニアリング、リスク管理といった新たな職種を生み出してきました。
AIの安全性にも、同様の専門分化が求められます。
AI安全エンジニア、レッドチームの専門家、モデルリスクの評価者、統制の設計者、独立監査人、インシデント調査員、インフラセキュリティの専門家、そして技術的リスクをビジネス要件や規制要件に翻訳できる人材が必要になります。
経験豊富なエンジニアや技術者は、こうした仕事に必要な基礎的スキルの多くをすでに備えています。
AIがどの仕事を奪うかだけに目を向けるのではなく、AIの存在によってどのような新しい責務や職業が不可欠になりつつあるのかにも、目を向けるべきです。
人間の専門知識は、技術がより高度になるまでの一時的な安全策にとどまりません。人間の判断力、法的な説明責任、独立した監督、技術的な専門性は、信頼できる技術ガバナンスの土台です。
そうした人材への投資は、持続可能なAI経済に必要なインフラへの投資にほかなりません。
いまこそ、優れたAIの祖先になるとき
私はよく、私たちが築いているシステムを受け継ぐ世代の視点から、今日の決断を考えます。
私たちは、将来の世代がどう学び、働き、医療を受け、政府と関わり、社会に参加するかを形づくる技術インフラを築いています。
彼らが受け継ぐのは、私たちが生み出した能力だけではありません。私たちが対処しなかったリスクも、受け継ぐことになります。
優れたAIの祖先であるとは、その結果が取り返しのつかないものになる前に、これらの決断に責任を持つことです。
安全性を競争上の不利や、イノベーションの障害として扱いたくなる誘惑に抗うことでもあります。信頼できる安全策こそが、持続可能な普及と社会の信頼を支える条件を整えるのだと認識することでもあります。
何より重要なのは、適切な専門知識に、適切な課題の解決を任せることです。
責任あるAIの重要性をうたう宣言が、さらに10年も競い合うことは望んでいません。必要なのは、安全策を開発するエンジニア、その有効性を検証するサイバーセキュリティの専門家、説明責任を確立する法律の専門家、そして遵守を実証する意思を持つ組織です。
Global Council for Responsible AIの国際AI安全レッドラインの取り組みは、そうした幅広い努力への一つの貢献です。その成否は、協力、技術的な検証、実践的な実装、そして継続的な改善にかかっています。
テクノロジー業界で30年近く過ごしてきた私は、個々の組織の商業的利益を超えた課題で協力したとき、何が可能になるのかを目の当たりにしてきました。
デジタル犯罪は、人の安全がかかっているとき、競合同士が協力者になれることを教えてくれました。AIの安全性は、その教訓を生かすもう一つの機会です。
私たちには、サイバーセキュリティの枠組みも、経験豊富な技術専門家も、法律の専門知識も、技術リスク管理に関する数十年分の教訓もあります。この土台の上に築いていくべきです。
いま問われているのは、私たちが共に培ってきた知見を、将来の世代が頼れる実践的な安全策へと形にしていくことです。
優れたAIの祖先になりましょう。専門家に主導を任せ、成功に必要なリソースを与え、私たちが後世に残すシステムに対して、自らの責任を果たしていきましょう。
翻訳元: https://www.helpnetsecurity.com/2026/10/13/cybersecurity-ai-safety-red-lines/
