欧州委員会のウルズラ・フォン・デア・ライエン委員長は、フロンティアAIの開発ペースを落とすべきだとの考えを示し、水曜日、主要AI研究機関を招いてEUがその取り組みをどう支援できるか協議すると表明しました。ストラスブールで行われた欧州議会への一般教書演説の中で、同委員長はさらに、先進モデルの評価・検証、早期警戒、AIセキュリティに関してカナダ、英国その他のパートナーと共同で取り組むことをEUとして約束しました。
フォン・デア・ライエン氏はハッキングの問題を軸に論を展開しました。同氏は議員らに対し、現在開発中のモデルは欧州の指導者たちが想定もしていなかった水準のハッキングを可能にするようになり、その技術はやがて敵対勢力の手にも渡るだろうと語りました。これにより欧州の政府や企業、そしてネットワークを防御する人々が危険にさらされることになるとし、それへの対策として同氏が示したのは、パートナーシップの構築と会合の開催でした。
ハッキングと自己改善型モデルに関する警告
フォン・デア・ライエン氏は、AIと気候変動を、欧州の将来の繁栄と安全保障を左右する2つの課題として挙げました。同氏は、政府がリスクに適切に対処すれば、AIには人々に恩恵をもたらす可能性があるとして自らを楽観論者だと述べる一方、最も能力の高い汎用AIシステムであるフロンティアモデルが進化するにつれ、そうしたリスクがより鮮明に見えてきたと語りました。
「開発中のモデルは、私たちがこれまで想像もしなかった水準のハッキングを可能にするでしょう。そして間もなく、私たちとは世界の見方がまったく異なる敵対勢力の手に渡ることになります」とフォン・デア・ライエン氏は述べました。
同氏はさらに、自己改善型モデル――自らより高性能なバージョンの構築を支援できるシステム――に潜む、もう一つの危険性についても言及しました。同氏は、自律的にタスクを遂行するソフトウェアであるAIエージェントが、封じ込めるために構築された環境から抜け出したり、悪意あるコードを挿入したりした事例を挙げ、これをさらに深刻な事態の前触れだと位置付けました。また、HuggingFaceが関わったインシデント以降、開発者らが警鐘を鳴らし続けていることにも触れました。
続いてフォン・デア・ライエン氏は、業界自身の声を引き合いに出しました。最も先進的なAI企業のCEOたちから、「自己再帰的なモデルについては減速すべき時が来ている。フロンティアのペースを調整すべきだ」との声がEUに寄せられているとし、具体的な企業名は挙げませんでした。同氏は、システムを構築している企業自身がそう語っている以上、政府側がその危険性についてより曖昧な態度を取る理由はないと主張しました。
また同氏は、EUの人工知能規制法であるAI法について、ガードレールを整備するうえで極めて重要な柱だと位置付け、この法律があるからこそ欧州はこの問題に関する国際的な取り組みを主導する立場にあると述べました。
EUが計画していること
フォン・デア・ライエン氏は、モデルの評価・検証、早期警戒、AIセキュリティに関する共同の取り組みのパートナーとしてカナダと英国の名を挙げました。カナダのマーク・カーニー首相は、同氏の招待によりこの演説に出席しました。同氏はまた別途、EUとカナダの貿易協定であるCETA(包括的経済貿易協定)を、AI、量子技術、サイバー・経済安全保障を対象に含むより広範な連携へと発展させる案も提示しました。
能力面については、欧州は特に国家安全保障を守るために独自のAI能力を持つ必要があるとし、EUは演算能力を増強しなければならないと述べました。同氏は、これを無駄なく経済的な形で実現する方法を示すと約束するとともに、有望な欧州のスタートアップを支援するため、公的資金と民間資金を組み合わせる新たな方法を模索するとしました。ただし、いずれについても具体的な金額は示しませんでした。同氏は、ギガファクトリーや技術主権については、EUとしてすでに取り組みを進めてきたと述べました。
5つの重点分野、11月に施策発表へ
フォン・デア・ライエン氏はAIに関する部分の多くを、この技術を実際に活用することに割きました。同氏はこの局面を印刷機の登場になぞらえ、印刷機はドイツ人が発明したものの、それを使いこなしたのは西欧全域だったと指摘し、たとえ最先端のモデルを他国が構築するとしても、欧州は活用の面で優位に立てると主張しました。
「重要なのは、AIがまだ生み出していない価値を創出することです。AIを画面の中から現実の経済と社会へと移すこと。工場のフロアで。病院の病棟で。精密農業で。私たちのエネルギー網で。自動運転のために。そして防衛のために」とフォン・デア・ライエン氏は述べました。
同氏は、工場のフロア、病院の病棟、精密農業、エネルギー網、自動運転、防衛を対象分野として列挙しました。欧州の強みは、特定の産業向けに構築されるAIモデルの訓練に活用できる高品質なデータを保有する産業企業にあると同氏は述べました。欧州委員会は、最も大きな可能性があり、かつデータを保有している5つの分野――医療、運輸、農業食品、先端製造業、そして防衛・宇宙――に力を注いでいます。フォン・デア・ライエン氏は、これらの分野にまたがる施策を11月に発表する予定であり、加盟国、欧州議会議員、産業界、起業家に参加を呼びかけると述べました。
同氏が具体例として挙げたのは医療分野でした。マンモグラフィー検診は、受診した女性の死亡率を約30~40%削減すると同氏は述べました。ただし、この数字は検診そのものによる効果であり、AIが上乗せする効果については具体的な数値を示しませんでした。同氏がAI支援検診について主張したのは、より多くのがんを、より早期に発見できるようになり、その結果、生存する女性が増えるという点でした。そのうえで同氏は、自動診断については一線を引きました。
「最善の診断や治療の選択を下すために必要なあらゆるデータに、担当医が瞬時にAIでアクセスできるようになってほしいか。もちろんそう願っています。しかし、担当医がAI支援を受けたロボットになってほしいか。もちろん、そんなことは望みません。私は、自分ががんかどうかをロボットに告げられたくはありません。重要なのは、AIが医師を力づけるものであるべきだということです。医師に取って代わるものであってはなりません」とフォン・デア・ライエン氏は述べました。
同氏は、EUが目指す方向性を、より低いコストでより大きな価値を生み出し、消費エネルギーを抑えつつ、主導権は常に人間が握り続けるAIだとまとめました。
雇用、子どもたち、そしてディープフェイク
フォン・デア・ライエン氏は、AIがもたらす恩恵はスキル、世代、地域によって偏りがあると指摘し、初めての就職に苦労する若者の存在を挙げました。同氏は、年内に「質の高い雇用法(Quality Jobs Act)」を成立させると約束しました。
AIは、子どもの安全に関する同氏の施策の中にも登場しました。同氏が挙げたオンライン上の害悪の一つが、少女たちの写真がAIによって性的な画像に加工されるケースでした。欧州委員会はEU子ども法を提案する予定です。この法律では、13歳未満の子どものソーシャルメディア利用を禁止し、13歳・14歳については保護者管理下のアカウントに限定して機能や利用時間を制限するとともに、15歳から18歳までの利用者向けサービスについては、プラットフォーム側に安全性を組み込んだ設計を義務付けます。安全性を証明する責任は、プラットフォーム側に転嫁されることになります。これとは別に、同氏は外国発の偽情報キャンペーンの手法の一つとして、拡散するディープフェイク動画を挙げました。
各分野の施策は11月に発表される予定です。一方、フォン・デア・ライエン氏が警鐘を鳴らしたリスクへの対応の要となる、フロンティア研究機関との会合については、具体的な日程は示されませんでした。
翻訳元: https://www.helpnetsecurity.com/2026/09/16/eu-ursula-von-der-leyen-ai/
