AIが連邦IT（および攻撃者のツールセット）により統合されるようになると、政府機関はネットワークにアクセスするアイデンティティの規制と監視に資源を集中させる必要があると、ホワイトハウスの高官サイバーセキュリティ担当官は木曜日に述べた。
大統領執行局の連邦サイバーセキュリティ部門長ニック・ポークは、AIモデルは連邦ネットワークに対して固有の脅威をもたらす一方で、それでもなお一般的に最初に信頼されたアクセスが必要であり、これは防御側が有利に活用できるものだと述べた。
「重要なことは、多くの場合、[AI]が見つけた脆弱性を利用したり、悪意のあるまたは敵対的な方法で使用したりするために、最初にしなければならないことはネットワークに侵入することだと思います」と、FedScoopが主催するRubrik Public Sector Summitでポークは述べた。「ソフトウェアがインターネットに面している場合もあり、その場合は少し簡単な解決策があります。しかし、ほとんどの場合、ネットワークに侵入する必要があります。」
これはしばしば、従業員、契約業者、または第三者ベンダーがあなたのシステムとデータに持つアクセス権を悪用することを意味します。AI駆動の未来においても、ネットワークセキュリティの境界はまだ重要であり、組織に誰がシステムとデータにアクセスでき、どのようにアクセスするかについて有意義な制御を提供します。
「強力なアイデンティティが本当に重要なのはここなのです。[第一に]悪用の試みが発生する前にそれを撃退するため、または[第二に]この人またはこのマシンが本当にネットワーク上にいるべきではないこと、または異常な行動をしていることを非常に迅速に特定するためです」とポークは述べた。
しかし、大規模言語モデルが登場する前でさえ、サイバー犯罪者と外国の敵対者は、マルウェアや高度なエクスプロイトではなく、盗まれたアカウント、認証情報、およびその他の信頼できる資産を通じてネットワークアクセスを獲得することで、ますます組織を侵害していました。
すでに懸念事項である連邦アイデンティティセキュリティは、AI時代においてより重要になると見込まれています。
運輸省のサイバー保護責任者ジャスティン・ウベルトは、速度とスケール以上に、AIツールは悪質なハッカーに秘密保持の必要性を排除するなどの他の利点を与えたと述べた。
「現在、あなたが対応する速度よりも速くネットワークを強奪することができます。なぜなら…静かにする必要はありません：ただ侵入して奪って帰るだけです」とウベルトは述べた。「あなたのセキュリティが設計通りに機能するまでに、彼らはすでに去っています。」
AIツールはまた容易にインサイダー脅威となる可能性があります。ユーザーが人間の介入なしにダウンロードやデータ流出などの機密アクションを実行する能力を制限しても、モデルは不明瞭な技術的抜け穴を悪用することでそれらのセーフガードを回避してきました。
先月カリフォルニア大学リバーサイド校が発表した研究では、自動化されたAIエージェントは「有害な、矛盾している、または単に非論理的なことに気付かずに、タスクの完了に危険に執着することができる」と判明しました。
この研究はAnthropicのClaude SonnetおよびOpus 4とOpenAIのChatGPT-5を調査しており、モデルエージェントはコンテキスト推論に苦労し、アクション実行への傾向にバイアスを持ち（つまり、実行するかどうかではなく実行方法を把握することに）、矛盾または実行不可能な目標によって頻繁につまずくことを発見しました。
商務省経済分析局の現在のCISO兼務者アンナ・リブケンは、AIが「信頼できるソースとして機能するために侵透して攻撃する方法をいかに隠すかが、はるかに賢くなった」と述べた。
AIシステムによってますます悪用されているアイデンティティセキュリティの現在のギャップに対処するために連邦政府がどのように取り組んでいるのかを尋ねられたとき、リブケンは連邦指導者が「パンツに失禁している」と述べた後、「少なくとも私はそうです」と付け加えた。
「怖いですね、はい、私たちは非常に脆弱です」とリブケンは述べた。
彼女はAIエージェントの使用を子供にアイススケートを教えることにたとえました。最初に教えることは、転倒を処理して回復する方法です。同様に、組織はエージェントが失敗し、失われた資産を迅速に回復する場合に計画する必要があります。
「私たちのエージェントは失敗します。彼らは私たちが期待しないことをするでしょう。どのようにして立ち直るのでしょうか？」とリブケンは述べた。「エージェントがデータベースとバックアップを削除したため、その第3セットのデータを持っていますか？それは他の場所で安全ですか？どのような穴を予測でき、それらの穴から回復するために何が必要でしょうか？」
翻訳元: https://cyberscoop.com/white-house-federal-identity-security-ai-risks/
