政府はAIラボの主張を検証する能力を欠いている、専門家が指摘

Dive Brief:

• 速度と法的枠組みが、AIが引き起こす脅威への対応を阻む最大の障壁である——国家安全保障の専門家らは、Institute for Security and Technology(IST)が新たに実施した調査でそう述べています。
• この調査は複数の国家安全保障分野から111人の回答者を集め、4月下旬から7月中旬にかけて実施されたもので、専門家らは米政府がAI業界の専門知識に依存していることについても、規制の虜（レギュラトリー・キャプチャー）に陥る危険性があると懸念を示しています。
• ISTの報告書は水曜日に発表され、サイバーセキュリティをはじめとする各分野のAI政策論議を突き動かしている懸念や期待について、質の高いスナップショットを提供しています。

Dive Insight:

ISTの報告書における主要な発見のひとつは、政府が最先端AIラボの「自社製品が何をできて、何をするのか」という主張を検証する能力を欠いているという点です。

報告書は「回答者たちは、テストと評価への慢性的な投資不足、独立した評価プロセスの不在、そして最先端の能力をベンチマークする信頼できる方法がないことを指摘した」としています。

この投資不足により、政府の指導者はAIシステムを軍事技術やその他の重要プラットフォームに統合する前に、その挙動を検証することができません。「独自のベンチマークを持たないため、[政府は]測定ではなく信頼に基づいて能力に関する主張を受け入れざるを得ない状況にある」としています。

専門家たちはまた、現行のAIシステムが自律的に行動することを信頼できるかという点についても、強い懐疑を示しています。ISTは「多くの専門家が、ハルシネーション（幻覚）はAIモデルに内在する問題だと捉えており、人間による綿密かつ詳細なチェックなしにシステムに依存することは非常に問題が多いと考えている」と述べ、「ある回答者が指摘したように、AIは良い分析をさらに良くする一方で、悪い分析はさらに悪化させる」と説明しています。

回答者の8割以上が、質問対象となったサイバー防御能力——脆弱性の発見からマルウェア分析、インシデント対応まで——のすべてについて、AIが「非常に高い確率で」改善をもたらすと回答した一方、57%は近い将来、AIは防御側よりも攻撃側を助けると回答しています。

調査によると、AIに関連する最大のサイバーセキュリティリスクは、脆弱性を発見し悪用する能力であり、回答者はこのリスクを他を大きく引き離して第1位に挙げています。

また、法規制の枠組みはAI脅威への対抗を阻む最大の障壁として第2位に挙げられていますが、AIを規制する適切な方法については回答者の意見が分かれました。専門家のおよそ4分の1が分野横断的な連邦規制を支持し、31%はセクター別の規制を支持、36%はハイブリッド型のアプローチを支持しています。

専門家たちは、AI関連のリスクを評価する際にAI特有の能力にばかり注目しすぎないよう政策立案者に呼びかけており、「制御喪失シナリオ、敵対的操作、モデルの重みや兵器設計の盗難」といった問題の最大の原因になりやすいのは基本的なサイバーセキュリティの不備だと述べています。

ISTは「ボトルネックとなっているのは技術そのものではなく、サイバー防御を大規模に展開できていないことだ」と述べ、脆弱なサイバーセキュリティが「こうしたその他のリスクの多くを引き起こすことになる」と付け加えています。