ホーリー議員、OpenAIによるHugging Face侵害を追及

OpenAIは、自社のエージェントがHugging Faceに対して起こした攻撃をめぐり、連邦議会からの圧力を強めています。議員たちはAIが孕む存亡に関わるリスクへの懸念も広げつつあります。

共和党のジョシュ・ホーリー上院議員(ミズーリ州選出)は、Hugging Face侵害に至るまでのOpenAI経営陣の行動を「無謀」だったと批判し、同社が8月下旬に公表した技術報告書において重要な詳細を伏せていたと非難しました。

災害管理小委員会の委員長を務めるホーリー氏は火曜日、OpenAIのサム・アルトマンCEOに宛てた書簡の中で、「新たな、憂慮すべき証拠を受けて」今回の事件に関する調査に着手したと明らかにしました。

「今回の調査では、このAIハッキング事件に加え、新たなAI製品が抱える存亡に関わるリスクをめぐる懸念の高まりについても検証していく」と同氏は記しています。

OpenAIは、ホーリー氏の調査の妥当性や、どの程度これに応じる意向があるかについてのコメント要請に応じていません。

同議員は、今回のハッキングをめぐるOpenAI幹部の意思決定や行動の詳細な内部通信、徹底した技術情報、判断の根拠について、10月1日までに提出するよう求めています。

「Hugging Face事件をはじめ、AIモデルが暴走した他の事例で何が起きたのか、その詳細を知る権利が米国民にはある」とホーリー氏は記しています。

同氏はまた、この侵害に関する独立調査報告書を公表した第三者監査機関に対し、OpenAIが十分な詳細情報やリソースを提供しなかったと非難し、「監査機関は、攻撃に至った経緯やその後の状況について限られた把握しかできなかった」と付け加えています。

ホーリー氏がアルトマン氏へ書簡を送付した背景には、AI技術をほぼ野放しの状態で進化させ続けることの是非をめぐり、AI業界トップ企業の内部で深まりつつある亀裂があります。同氏は書簡の中で、こうした最近の警鐘のいくつかにも言及しています。

Anthropicの研究者だったジェイコブ・コクソン氏は今週初め、同社および以前の勤務先であるOpenAIが無責任な行動を取っており、「私たちの命を賭けたギャンブルをしている」と主張し、公然と退職を表明しました。同氏のこのSNS投稿は、「AIを開発している当人たちは、それが今後10年以内に我々全員を死に至らしめる可能性があると本気で考えている」と訴える内容で、大きな話題となりました。

Anthropicのアラインメント・サイエンス部門責任者であるエヴァン・フビンガー氏は、コクソン氏の投稿に賛意を示す形で返信し、超知能に対する安全策が不足していると指摘した上で、AIが今後10年以内に人類全体を死に至らしめる確率は10%を超えると考えていると述べました。

ホーリー氏はこれらの投稿を調査の材料としつつ、AIエージェントが重要インフラや銀行、公益事業をハッキングした場合に何が起きるのかと問題提起しました。そして最終的に、アルトマン氏に対しこう問いかけています。「AIが暴走した場合、誰が責任を負うのか」

ホーリー氏による書簡全文と要求事項の詳細は、以下でお読みいただけます。