電話が鳴る。国務長官からの電話だ。しかし本当にそうだろうか？
ワシントンの関係者にとって、もはや「見た」「聞いた」だけでは信じられない時代になった。最近、ドナルド・トランプ大統領の政権の高官になりすましたディープフェイクが相次いで発生しているためだ。
デジタル偽造は、アメリカの企業社会にも迫っている。北朝鮮をはじめとする敵対勢力に関連する犯罪組織やハッカーが、合成映像や音声を使ってCEOや下級の求職者になりすまし、重要なシステムや企業秘密へのアクセスを狙っているのだ。
人工知能（AI）の進歩により、リアルなディープフェイクの作成はこれまでになく簡単になり、政府、企業、個人のセキュリティ上の問題を引き起こし、信頼がデジタル時代で最も貴重な通貨となっている。
この課題に対応するには、法律、デジタルリテラシーの向上、そしてAIにAIで対抗する技術的な解決策が必要となるだろう。
「人間は驚くほど騙されやすい生き物です」と、テック企業Pindrop SecurityのCEO兼創設者、ヴィジャイ・バラスブラマニヤン氏は語る。しかし彼は、ディープフェイクの課題に対する解決策は手の届くところにあると信じている。「私たちは反撃します」
AIディープフェイクが国家安全保障の脅威に
この夏、誰かがAIを使ってマルコ・ルビオ国務長官のディープフェイクを作成し、テキスト、ボイスメール、Signalメッセージアプリを通じて、外国の大臣、米上院議員、州知事に接触を試みた。
広告。スクロールして続きをお読みください。
5月には、トランプ大統領の首席補佐官スージー・ワイルズになりすました人物も現れた。
今年初めには、ウクライナのスターリンク（イーロン・マスクのインターネットサービス）へのアクセスを遮断したいと語る、偽のルビオのディープフェイクも登場した。ウクライナ政府は後にこの虚偽の主張を否定した。
国家安全保障への影響は甚大だ。例えば、ルビオやワイルズと話していると思い込んだ人々が、外交交渉や軍事戦略に関する機密情報を話してしまう可能性がある。
「目的は、機密情報や競争上の情報を引き出すか、メールサーバーや他の機密ネットワークへのアクセスを得ることです」と、サイバーセキュリティ企業QiDのCEO、キニー・チャン氏は動機について語る。
合成メディアは行動を変えることも狙う。昨年、ニューハンプシャー州の民主党支持者に、州予備選で投票しないよう促す自動音声通話が届いた。その声は当時のジョー・バイデン大統領に酷似していたが、実際はAIで作られたものだった。
AIディープフェイクの欺瞞能力は、外国勢力にとって強力な武器となる。ロシアや中国は、アメリカ人に向けた偽情報やプロパガンダを使い、民主主義の同盟や制度への信頼を損なおうとしてきた。
偽バイデンの自動音声通話を送ったことを認めた政治コンサルタントのスティーブン・クレイマー氏は、ディープフェイクがアメリカの政治体制に与える危険性を訴えたかったと語る。クレイマー氏は先月、有権者抑圧と候補者なりすましの罪で無罪となった。
「私は500ドルでやった」とクレイマー氏。「もし中国政府がこれをやるとしたら、どうなると思いますか？」
詐欺師がディープフェイクで金融業界を標的に
プログラムの入手性と高度化により、ディープフェイクは企業スパイや一般的な詐欺にもますます使われている。
「金融業界はまさに標的のど真ん中です」と、CIAの元副局長でサイバーセキュリティやデジタル脅威に携わったジェニファー・ユーウバンク氏は語る。「お互いを知っている個人同士でも、多額の資金を移すよう説得されてしまうことがあるのです」
企業スパイの文脈では、CEOになりすまして従業員にパスワードや口座番号を渡すよう指示することもできる。
ディープフェイクを使えば、詐欺師が偽名や架空の身元で仕事に応募し、実際に働くことさえ可能だ。中には機密ネットワークにアクセスして秘密を盗んだり、ランサムウェアを仕込んだりするためにこれを行う者もいる。一方で、単に仕事が欲しくて、複数の会社で同時に似たような仕事をしている場合もある。
米当局によると、ITスキルを持つ数千人の北朝鮮人が海外に派遣され、盗んだ身分で米国や他国のテック企業に就職しているという。彼らは企業ネットワークへのアクセスと給与を得る。場合によっては、後にさらに多くの金を脅し取るためのランサムウェアを仕込むこともある。
こうした手口で、北朝鮮政府には数十億ドルがもたらされている。
サイバーセキュリティ企業Adaptive Securityの調査によれば、3年以内に4件に1件の求人応募が偽物になると予想されている。
「今や、ノートパソコンとオープンソースのモデルにアクセスできれば、誰でも本物の人間になりすませる時代です」と、AdaptiveのCEO、ブライアン・ロング氏は語る。「もはやシステムをハッキングするのではなく、信頼をハッキングする時代なのです」
専門家はAIでAIに対抗
研究者、政策専門家、テクノロジー企業は現在、ディープフェイクがもたらす経済的、政治的、社会的課題への最善の対処法を模索している。
新たな規制により、テック企業に対し、自社プラットフォーム上のディープフェイクの特定、ラベリング、場合によっては削除を求めることもできるだろう。法律制定者は、デジタル技術を使って他人を欺く者への罰則を強化することもできる――もし捕まえることができれば、だが。
デジタルリテラシーへの投資拡大も、偽メディアの見抜き方や詐欺被害を避ける方法を教えることで、人々のオンライン詐欺への耐性を高めることができるだろう。
AIを見破る最良のツールは、別のAIプログラムかもしれない。人間には気付けないディープフェイクの微細な欠陥を見抜くよう訓練されたAIだ。
Pindropのようなシステムは、誰かの話し方の数百万ものデータポイントを分析し、素早く不規則性を特定できる。このシステムは、例えば就職面接や他のビデオ会議で、相手が音声クローンソフトを使っているかどうかを検出するのに利用できる。
同様のプログラムが、将来的には一般的になり、オンラインで同僚や家族と会話する際にバックグラウンドで稼働するようになるかもしれない。いつかディープフェイクも、かつてメールの有用性を脅かしたスパムメールのように、技術的課題として解決される日が来るだろうと、PindropのバラスブラマニヤンCEOは語る。
「敗北主義的に、偽情報に従属するしかないという見方もできます」と彼は言う。「でも、それは起こりません」
詳細は AIリスクサミット | リッツカールトン・ハーフムーンベイでご確認ください