AI安全サミット：バイデン＝ハリス政権、米国AI安全研究所を設立

米国商務省は、AIの安全性と信頼に関する米国政府の取り組みを主導する新たな政府機関として、米国人工知能安全研究所（USAISI）を設立しました。

カマラ・ハリス米副大統領は、11月1日にブレッチリー・パークで開催された英国のAI安全サミットでの演説中に、この発表を行いました。

米国AI安全研究所はどのように機能するのか？

USAISIは、米国国立標準技術研究所（NIST）の一部となります。同研究所には、AIモデルの安全性・セキュリティ・テストに関する標準の策定を促進すること、AI生成コンテンツの真正性を認証するための標準を策定すること、研究者が新たに顕在化するAIリスクを評価し既知の影響に対処できるよう、テスト環境を提供することが任務として課されます。

この使命を達成するため、USAISIは学術界、産業界、政府、市民社会のパートナーと協力するなど、外部の専門知見を活用してAI安全を推進します。

また、英国のAI安全研究所を含む同盟国・パートナー国の類似機関と連携し、この分野における取り組みの整合と調整を図ります。

安全・安心なAIに関するバイデン大統領の大統領令を受けて

USAISIの設立は、バイデン大統領の安全・安心なAIに関する大統領令の数日後に行われました。同大統領令では、いかなるAIシステムも一般公開する前に安全性を確保するため、NISTに対し大規模なレッドチーム・テストのための新たな標準を策定するよう求めることが言及されていました。

ジーナ・レイモンド米商務長官は、ハリス副大統領とともにAI安全サミットに出席しました。彼女は次のように述べました。「政府全体の連邦機関と連携し、国際的なパートナーや同盟国とも歩調を合わせながら、AIのリスクを管理し、その恩恵を活用するという大統領のビジョンを実現するために取り組みます。」

NISTのローリー・E・ロカシオ所長は、自身の組織が「米国にとってこの重要な役割を担い、AIに関する私たちの幅広い取り組みを拡大できることに胸を躍らせている」と述べました。

AI安全を前進させる米国の新たな取り組み一式

英国のAI安全サミットへの米国代表団の参加は、バイデン＝ハリス政権が責任あるAIに対する政府のアプローチを形作る、いくつかの別の取り組みを発表する機会にもなりました。

• 米国政府によるAI利用に関する政策ガイダンス案。政府におけるAIの開発、調達、利用に責任ある実践を組み込むという誓約を含みます。この政策案は、AI権利章典のブループリントやNISTのAIリスク管理フレームワークなど、既存文書を基盤としています。
• AIおよび自動化の責任ある軍事利用に関する政治宣言。
• 公共の利益のためにAIを前進させる新たな慈善イニシアチブ。
• AI生成の音声モデルを用いて米国市民を狙う詐欺師に対抗する取り組み。
• 国際標準の策定と実装を支援するよう求める呼びかけ。デジタル署名、ウォーターマーキング、その他のラベリング技術などを通じて、一般の人々が政府が作成した真正なデジタルコンテンツ、およびAI生成または改ざんされたコンテンツを効果的に識別し追跡できるようにすることを目的とします。

今回の最新発表は、ユーザーが音声または視覚コンテンツがAI生成かどうかを理解できる仕組みを開発するという、主要AI企業15社の自主的コミットメントを踏まえたものです。