eSecurity Planet のコンテンツおよび製品推薦は編集上の独立性を保っています。掲載リンクからパートナー企業の製品をご購入いただいた場合、当社が収益を得ることがあります。 詳細はこちら
トランプ大統領は、テック企業に新たな規制を課すことなく、高度なAIモデルの監視強化を目的とした新たな大統領令を発表しました。
この大統領令は任意参加型のフレームワークを設けるものであり、強力なAIモデルの開発者が公開前にシステムを連邦政府と共有してセキュリティ審査を受けられるようにするものです。
「米国がAI分野で世界をリードし続けているのは、AIindustry（AI産業）が持つ卓越した才能と革新力のおかげであり、過度に負担の重い規制によってこの革新を抑制することを拒んでいるからです」と、大統領令には記されています。
AI大統領令のポイント
- トランプ大統領が大統領令に署名し、高度なAIモデルを公開前に審査するための任意フレームワークを創設
- 高リスクと指定されたフロンティアモデルの開発者は、展開前の最大30日間、連邦機関へのアクセスを提供可能
- 急速に高度化するAIモデルに伴うサイバーセキュリティおよび国家安全保障上の懸念への対応が目的
- AIライセンスの義務化、許可制度、政府承認要件は設けない
AI大統領令の詳細
今回の大統領令は、高度なサイバー能力を持つフロンティアAIモデルへの懸念が高まる中で発令されました。
一部のフロンティアAIモデルは脆弱性の特定やエクスプロイトコードの大規模生成が可能なため、適切な安全対策が講じられなければサイバー攻撃を加速させる恐れがあるとして、懸念が広がっています。
大統領令では、NSA・CISA・国防省・財務省に対し、詳細な審査が必要となりうる高リスクなフロンティアモデルの定義策定を指示しています。
また、このフレームワークは任意参加型のプロセスを設けており、AI開発者が政府関係者と連携しながら、自社モデルが審査対象の閾値に該当するかどうかを判断できるようにしています。
対象フロンティアモデルに指定された場合、開発者は公開前の最大30日間、連邦機関にシステムへのアクセスを提供することができます。これにより、当局はサイバーセキュリティへの影響、悪用シナリオ、国家安全保障上のリスクを事前に評価できるようになります。
政権によれば、この取り組みは高度なAIモデルが広く市場に出回る前にセキュリティ上の懸念を特定・軽減しつつ、AI革新における米国のリーダーシップを維持することを目的としています。
審査プロセスは、新たな規制要件を課すのではなく、政府と産業界の協力関係を育む形で設計されています。
かねてより検討されていたとされる草案とは異なり、最終的な大統領令にはAIリリースに対する政府の義務的監督は盛り込まれませんでした。
組織がAIリスクを管理するための方法
AI技術を導入する組織にとって、セキュリティチームはイノベーションと効果的なリスク管理のバランスをいかにとるかが課題です。
高度なAIシステムは、データ漏洩、プロンプトインジェクション攻撃、モデルの悪用、AIを活用したサイバー脅威など、新たなセキュリティ課題をもたらす可能性があります。
強固なガバナンス、セキュリティコントロール、監視プロセスを整備することで、組織はこれらのリスクを低減しながらAIを安全に活用できます。
- AIガバナンスポリシーの策定と、AIツール・サービスの導入前におけるリスクアセスメントの実施
- 承認済みAIアプリケーションの一覧管理と、異常・不正なアクティビティの継続的な監視
- 強固なアクセス制御、最小権限の原則、およびデータ損失防止対策による機密情報の保護
- AIベンダーの導入前における、基本的なセキュリティ対策・モデルテスト手順・脆弱性開示プログラムの評価
- 定期的なAIセキュリティテストとレッドチーム演習の実施によって、プロンプトインジェクション・データ漏洩・モデル悪用などのリスクを特定
- AIを活用したサイバー脅威や自動化された攻撃手法に対応するための、脆弱性管理と脅威検出能力の強化・自動化
- インシデント対応計画のテストと、AIを活用した脅威やモデル侵害を想定したシナリオによる攻撃シミュレーションツールの活用
これらの対策を組み合わせることで、組織は運用・セキュリティ・コンプライアンス上のリスクを最小限に抑えながら、新たなAI脅威に対するレジリエンスを高めることができます。
AIイノベーションとセキュリティのバランス
今回の大統領令は、AIイノベーションとセキュリティ上の懸念のバランスをとろうとする各国政府の広範な取り組みを反映しています。
政策立案者が適切な監視水準の検討を続ける中、急速に高度化するAIシステムがサイバーセキュリティに与える影響への懸念から、リスク管理と責任ある展開に対する注目が高まっています。
新たな規制要件を現時点で導入するのではなく、トランプ政権は政府機関とAI開発者の協力を促す任意フレームワークを選択しました。
このアプローチの実効性は、業界の参加意欲と、高度なAI技術が進化し続ける中でリスクを特定・対処する政府の能力にかかっています。
AIが攻撃対象領域を拡大させている今、ゼロトラストソリューションを活用することで、組織はリスク露出を低減し、アクセス制御を強化し、重要なシステムとデータを保護できます。
