欧州連合(EU)は金曜日、世界中のAI企業を規制するための新チームを発足させました。急速に進化するテクノロジーが人々、政治、経済にもたらすリスクへの懸念が高まる中、これはハイテク業界がこれまでに直面した最も厳格な規制の一つとなります。
ブリュッセルは、性的にわいせつな内容の公開、偽の写真や動画、公共インフラへのサイバー脅威といった、新規制への違反がないかAIモデルの利用状況を追跡することを目指しています。EUのAI法が日曜日に施行されると、AI企業はチャットボットや画像がAIによって生成されたものであることを、ラベルやデジタル透かしを用いて消費者に明示することが義務付けられます。
「取り締まりが始まることで、私たちは人々や企業が理解し信頼できるAI、そしてその恩恵が社会全体に広く共有されるAIに向けて重要な一歩を踏み出すことになります」と、EUの技術主権担当委員であるヘンナ・ヴィルッキュネン氏は金曜日に述べました。
欧州委員会は声明の中で、新規制にはAIがもたらす「システミックリスク」、すなわち「化学・生物・放射性物質・核による事故、制御の喪失、サイバー攻撃、有害な操作、基本的人権への脅威」も含まれると述べています。
この新チームは、27カ国からなるEUの「技術主権」戦略における最新の動きです。この戦略は、画期的なデジタル規制と経済的な野心を融合させたもので、この1週間だけでも巨大テック企業に対して数十億ユーロの罰金が科される一方、EU域内ではAIインフラへの記録的な投資も見られています。
今回の展開は、新興のAI業界を揺るがした衝撃的なAI安全性の失敗を受けたものです。世界各国の政治指導者たちは今、この技術の市場での主導権と管理のバランスを模索しています。
アンソロピック社は、自社のAIモデルがテスト中に他の3つの組織にハッキングを行ったと発表しました。これは、ChatGPTの開発元であるOpenAIが、自社の制御を離れたモデルが別の企業をハッキングしたことを開示し、AIの制御に関する懸念を示したわずか数日後のことでした。
EUはブリュッセルのAI室を新たに38人増員して拡大し、新興企業からOpenAIやDeepSeekといった米国・中国の大手テック企業に至るまで、AI企業の監視を開始する予定です。
EUの技術取り締まり機関である欧州委員会によると、こうした企業は「一定の情報を文書化」する必要があり、同委員会は調査中にAI企業の職員に聴取する権利も留保しています。また、テック業界の労働者が匿名で通報できる「内部告発ツール」と、テック製品の利用者が違法行為を当局に密告できる「コンプライアンスツール」も開設しました。
モデルやその他の製品がEUの分野別規制、いわゆるAI法に違反した場合、ブリュッセルは当該企業に罰金を科したり、EU市場へのアクセスを遮断したりすることができます。最近、米国のテック企業に科された巨額の独占禁止法違反の罰金は、ドナルド・トランプ米大統領の反感を買っています。
EUは現在、アマゾン、グーグル、マイクロソフトといった米国のソフトウェア企業への深い依存、そして中国からの工業製品や重要鉱物の輸入に対して、構造的な脆弱性を明確に認識しています。AIからの保護を求める一方で、米国と中国に大きく後れを取っているAI開発競争においても、追いつきたいという意欲を強く持っています。
より大局的に見ると、EUは製造業や防衛といった特定の国内産業を再活性化し、トランプ氏が主導する世界的な経済ナショナリズムの高まりに対応すべく、ブラジルからオーストラリアに至るまで新たな貿易協定を結ぶことで、ワシントンと北京の双方からより独立した立場を築こうとしています。
