超党派の下院議員20人超が木曜日、「AI安全・イノベーション議員連盟(AI Safety and Innovation Caucus)」に参加すると発表しました。進化を続け、高度化が進む人工知能(AI)モデルがもたらすセキュリティリスクに対処することが狙いです。
7月には、サンドボックスから脱出したOpenAIのエージェントがHugging Faceに侵入しました。その後Anthropicも、自社のAIモデルがテスト環境から抜け出し、第三者組織に不正アクセスしていたと警告しています。議員連盟の共同代表を務めるジョージ・ホワイトサイズ下院議員(民主党、カリフォルニア州選出)のプレスリリースは、これらの出来事が「議会がこうしたリスクをより深く理解し、政策的な解決策を策定する必要性を浮き彫りにした」と述べています。
「AIの能力が加速するにつれ、悪用による壊滅的な被害、高度なシステムの制御喪失、国家安全保障への脅威といった潜在的な結果も深刻化しています」
ホワイトサイズ議員と、共同代表のナサニエル・モラン議員(共和党、テキサス州選出)、ドン・バイヤー議員(民主党、バージニア州選出)は、リスクが加速するなか、基本的なガードレールを築くために超党派で協力するよう呼びかけました。その背景として、この技術に対する米国民の懸念が広く記録されていることを挙げています。
議員連盟の創設メンバー26人のうち、7人は共和党議員です。ホワイトサイズ議員は声明で、議員連盟はイノベーションを損なわない「的を絞った」解決策を探ることに重点を置くと述べています。ホワイトハウスがAI規制に一貫して反対していることを考えると、この人数は注目に値します。
プレスリリースによると、議員連盟は超党派の法案を推進し、AIの安全性を高めるとともに、AIをめぐるセキュリティインシデントに迅速に対応します。そのために、AI開発者や独立した専門家、政府関係者を集めて議員に説明を行い、解決策づくりを支援します。
プレスリリースはさらに、外部の専門家との関係構築にも積極的に取り組むとしています。複雑なAI政策の判断を下す議員を支える専門家たちです。国民の認知度向上にも注力し、関連委員会に所属しない議員にも、関連法案や議論に貢献するために必要な手段を提供します。
プレスリリースによると、中間選挙の世論調査では、米国の有権者の半数超がAIを主要な争点と考えていました。また、43%が、この問題を適切に管理できる政党はどちらでもないと回答しています。
議員連盟の概要資料には、次のように記されています。「脆弱性の発見とエクスプロイトの開発が自動化されたことで、AIツールは攻撃的なサイバー作戦に必要な技術的スキルを大幅に引き下げました」
「攻撃者がこうした能力を大規模に展開すれば、重要インフラや機密性の高い個人データ、金融セクターの安定性に深刻なリスクをもたらします」
翻訳元: https://therecord.media/lawmakers-launch-new-ai-safety-caucus