Googleは、Google Earth内でAI画像を生成できる機能を撤回しました。予想通りディープフェイクが相次いで作られたことを受けての措置です。
Googleは7月30日、Google Earthのウェブ版でAI画像生成機能を有効化し、すべてのユーザーが利用できる状態にしていました。
このシステムは、Googleの画像生成ツール「Nano Banana 2」を使って画像を作成する仕組みでした。同ツールは単純なテキスト入力から画像を生成できますが、Google Earthで実行することの利点は、実際の衛星画像をディープフェイク版のベースとして使える点にあります。これにより、建物や地形の細部まで正確なAI画像を作りやすくなっていました。
Googleは今回の機能公開に際した最初のブログ投稿で、学生であれば「歴史を蘇らせる」ために使えるほか、不動産業者はプロ仕様の不動産プランを作成できると説明していました。しかし一方で、このシステムが人々を欺くために使われかねないと警鐘を鳴らす声もありました。
数時間のうちに、研究者やメディアがこのツールを使い、実際には起きていない出来事を、実在しない場所で撮影されたかのようなフォトリアルな衛星画像として、いとも簡単に生成できることを実証してしまいました。
オランダのオープンソースインテリジェンス(OSINT)研究者であるヘンク・ヴァン・エス氏は次のように説明しています。「メキシコ国境の難民、イランの原発、アムステルダムでの衝突事故、ガザで爆撃を受けた病院を試してみました。何一つ拒否されませんでした」。
この新機能で何ができるかを示す形で、NPRはイランでの火災の画像や、ワシントンD.C.が水没したディープフェイク画像を捏造しました。BBCも、エッフェル塔が崩壊した画像や、ギザの大ピラミッドが陥没穴に飲み込まれた画像を掲載しました。このサービスには一応のガードレールが設けられていたものの、BBCの偽情報対策部門「Verify」は、基本的なAIプロンプトを工夫するだけでそれを回避できてしまいました。
GoogleはX上での声明で、この失敗を認めました。
「地理空間の専門家の方々が、この機能をさまざまな有益な目的で活用してくださっているのを確認しています。しかし同時に、当社のポリシーに違反すると思われる生成画像のスクリーンショットが共有されている事例も確認しました。そのため、より強固なガードレールの実装に取り組む間、Google Earthにおけるこの機能をロールバックします」
なお、この機能を今後二度と再導入しないとは約束していません。
ユーザーの反応は明らかに冷ややかでした。「あなたたちの開発チームの中で、まさにこの懸念を誰一人として指摘しなかったなんてことがあり得るはずがない」とあるユーザーはコメントしています。また別のユーザーは「あなたたちは完全に隔絶された世界に住んでいる」と非難しました。
Googleが用意していたフォールバック的な安全対策は、SynthIDの電子透かしと、生成画像がGoogle Earthのメイン画面には表示されず他のユーザーの目に触れない仕組みでした。SynthIDはGoogle DeepMindが開発した電子透かし技術で、AI生成画像のピクセルに目に見えない信号を埋め込み、対応する検出器で後から識別できるようにするものです。Googleはこれを、AI業界全体が採用しているメタデータ標準規格C2PAと並ぶ、来歴証明システムの片翼と位置付けています。
理屈上、この電子透かし信号は圧縮処理やソーシャルメディアへの再アップロードを経ても維持されるはずでした。しかし、こうした主張は現実に直面すると崩れ去りました。この透かしはGeminiなどGoogleのAIサービスでは検出できるものの、ユーザーの目には見えません。つまりユーザーは画像をスクリーンショットして、どこにでも共有できてしまうのです。すべての人が画像の来歴を確認する方法を知っているとは考えにくいでしょう。さらに研究者らは、SynthIDの透かしが入ったAI生成画像であっても、Geminiが確実に識別できるとは限らないと報告しています。
この件が私たちに意味すること
コンテンツ制作者たちは、実際には起きていない出来事を描いた偽のAI画像をすでに作り始めていました。従来、衛星画像はオープンソース・ジャーナリズムの重要な構成要素でした。それを説得力のある形で偽造できてしまうということは、記者たちが実際に何かが起きたかどうかを確認する際に頼る基準となる情報層そのものを攻撃していることになります。
また、この一件はAIに対する信頼が目に見えて低下している時期に起きています。当社が6月に発表した独自調査によると、回答者の88%が、オンライン上のコンテンツが本物の人間によるものか、あるいは事実なのかを見分けるのが難しくなってきていると回答し、84%が「説得力のある動画による証拠」ですらもはや証明にはならないと感じていると答えています。
実践的なアドバイスとしては、災害や兵器攻撃、国境越えなどを写した衝撃的な衛星画像がタイムラインに流れてきたら、一呼吸置くことです。名前の記された記者を擁する通信社がその画像を報じているかどうかを確認しましょう。画像提供元を明記したキャプションがあるかどうかも探してみてください。もし発信元が匿名アカウントで、劇的な一枚の画像だけを投稿しているような場合は、それが前夜にブラウザのタブ上で作られたものである可能性を疑うべきです。
AI画像の見分け方について詳しくは、当社のガイドをご覧ください。
業界の製品リリースのやり方は、今やユーザーをテスト集団として扱うのが当たり前になっているようです。読者や視聴者が持ち得る唯一の確かな武器は、批判的なメディアリテラシーだけなのです。
脅威を報じるだけでなく、取り除くところまで。
サイバーセキュリティの脅威が見出しの中だけにとどまるとは限りません。今すぐMalwarebytesをダウンロードして、デバイスを脅威から守りましょう。
