AIセキュリティ系スタートアップCEOが求人を出す。ディープフェイクの候補者が応募し、内なる葛藤が生まれる。

Amazonのような巨大テック企業から小さなスタートアップまで、ほぼあらゆる企業が、偽のIT労働者が求人に応募してくる――そして時には実際に採用されてしまう――という経験を身をもってしている。 

それでも、AIシステムの脅威モデリングを行う企業のセキュリティ研究者職に、ディープフェイク動画を使って応募するというのは、信じがたいほど大胆に思える。 

「私が参加しているCISOグループでは、最もよく話題に上る論点の一つです」と、Expelの共同創業者兼CEOであるジェイソン・レブホルツはThe Registerに対し、北朝鮮型の就職面接詐欺について語った。 「自分に起きるとは思っていませんでしたが、現実になってしまいました。」 

自身のAIセキュリティ企業を立ち上げる前、レブホルツはインシデントレスポンダーおよび最高情報セキュリティ責任者（CISO）として働いていた。彼は何年もディープフェイクを研究しており、プレゼンでも使ってきたため、この種の詐欺の格好の標的というわけではない。

1月、レブホルツはLinkedInで自社の求人をいくつか掲載した。数時間もしないうちに、個人的には面識のない人物からダイレクトメッセージが届き、セキュリティ研究者職に適任の候補者を知っていると言ってきた。

その求職者とされる人物のプロフィール写真は実在の人物ではなかった。レブホルツによればアニメのキャラクターのように見え、今回の一連の出来事における「最初の赤信号」だったという。それでも彼は、候補者に疑いの余地を与えた。

「セキュリティ界隈では、プライバシーのことで神経質になる人が多いので、誰かが別名を使っていたり、本物の写真を載せていなかったりしても、特別おかしなことではありません」と彼は言う。「見えているものを正当化しようとしたのは、これが最初でした。」

さらに赤信号

レブホルツがLinkedInのつながり相手に求職者のことを尋ねると、その相手はVercel上にホストされた履歴書へのリンクを送ってきた。Vercelは、AIツールと統合できるアプリ構築向けのクラウドプラットフォームだ。これも少し奇妙に思えた。 

「当時、共同創業者とチャットしていたら、彼が『それはちょっと変だな。たぶんClaudeでその履歴書を生成したんだろう』と言ったんです」とレブホルツは語り、Claude Codeに履歴書やポートフォリオの作成を頼むと、通常それらをVercelにデプロイする傾向があると付け加えた。

レブホルツは、相手は開発者なのだからコーディングツールでポートフォリオを作るのは理にかなっている、と自分に言い聞かせて正当化した。加えて「見栄えのいい履歴書でした。すべてがとてもプロフェッショナルに見えた」のだという。

LinkedInの連絡相手は、以前その求職者と前職で一緒に働いたことがあると言い、志望者は海外で働いているのだとレブホルツに伝えた。レブホルツは、それは問題にならないと言った。Expelは若い会社であり、レブホルツは、誰がその仕事に適しているのか感触をつかむため、できるだけ多くの人に面接したいと考えていた。

「この時点では、詐欺だとは疑っていませんでした」と彼は言う。「前の仕事はサンフランシスコだったのに本人は海外にいる、という点は少し変だと感じましたが。」

それでもレブホルツは、面接でその点を聞けばいいと考えた。彼はLinkedInの相手に自分のメールアドレスを渡し、共通の「友人」に取り次いでもらうよう頼んだ。「すると、メールが受信箱に届いてから5分もしないうちに、LinkedInで『迷惑メールフォルダを確認して。彼が返信してるから、必ず返事して』というメッセージが来たんです。」

レブホルツは詐欺ではないかと疑い始めた。「紹介で、あんなレベルの緊急性を感じたことは一度もありません」と彼は言う。セキュリティの調査員――あるいはフィッシング対策トレーニングを受けたことのある人なら誰でも――攻撃者が標的に特定の行動を取らせるため、たいてい緊急性を演出することを知っている。

面接をしたとき、そこでいきなりすべてが破綻しました

「でも、まあ話してみようと思ったんです。害はないだろう、と。それで面接を設定しました」とレブホルツは言う。「赤信号が『これは確実に詐欺だ』と思う閾値を超えたところまでは、まだ行っていませんでした。黄色信号の段階でした。確かに少し怪しくなってきてはいました。でも面接をしたとき、そこでいきなりすべてが破綻しました。」

詐欺師はカメラをオフにしたまま通話に参加した。そしてカメラをオンにするまでに30秒ほどかかった。「その30秒の間に、これはディープフェイクになるな、と考えていました。前からの赤信号が次々に頭に浮かんで、これは絶対に本物じゃない、と」とレブホルツは言う。

カメラがオンになると、求職者はバーチャル背景の前に座っていた――そのクリップはこちらで見られる――顔は少しぼやけてプラスチックのように見え、眼鏡にはグリーンスクリーンが反射しており、ある時点では頬にえくぼが現れた。

「その時点で、顔の柔らかさに意識が引っ張られていました。動くと、それが出たり消えたりするのが見えたんです」とレブホルツは言う。「この時点で、私は間違いなくディープフェイクと話していると分かっていました。でも、それでもまた正当化しようとしたんです。」

今回の取材の中で、レブホルツはこの過程で経験した「内なる葛藤」を繰り返し語った。「もし私が間違っていたら？ ここで自分が正しいと95％確信しているのに、もし間違っていて、別の人間が仕事を得る機会に影響を与えてしまったら？ それが、ディープフェイクだとずっと分かっていたにもかかわらず、頭の中で文字どおり繰り広げられていた対話でした。奇妙な対比でした。自分でも、見えているものには説明がつくかもしれない、という方向に短絡してしまっていた。とても非現実的な体験でした。」

もし私が間違っていたら？ ここで自分が正しいと95％確信しているのに、もし間違っていて、別の人間が仕事を得る機会に影響を与えてしまったら？

レブホルツによれば、その求職者は回答する前に面接の質問を繰り返す癖があり、回答の多くは、レブホルツがオンラインで共有していた発言や文章を、ほぼ一語一句そのまま引用したものだったという。「自分が自分と話しているように感じる、体外離脱のような体験でした」と彼は言う。

レブホルツは面接を途中で打ち切ることも、候補者に人間であることの証明を求めることもしなかった。「私が抱えていた内なる葛藤はこうです。彼を問い詰めるべきか？ でも私はずっと『もし自分が間違っていたら？』に戻ってしまった。それが一番奇妙な部分でした。なぜなら、私の中のすべて、ディープフェイクについて知っているすべてが『これはディープフェイクだ』と叫んでいたのに、何かが私を止めていたんです。自分が間違っている1％の可能性、実は優秀な候補者で、問い詰めたら彼に悪く思われるかもしれない、ということが。」

面接後、レブホルツは動画クリップを、Moverisにいる友人に送り、同社のディープフェイク検知技術で分析してもらった。結果はレブホルツの疑念を裏付けた。そして得られた教訓の一つは、どんな規模の会社でも、誰にでも起こり得るということだ。

「小さな会社も被害者になります」とレブホルツは言う。「巨大テック企業でなくても、被害に遭うんです。」

GoogleやAmazonのような巨大テック企業も、北朝鮮のIT労働者に狙われている。実際、フォーチュン500企業の大半がこの詐欺に引っかかっている。

12月、Amazonは、2024年4月以降、朝鮮民主主義人民共和国（DPRK）からの疑いのある詐欺師1,800人以上が自社の労働力に加わるのを阻止したと発表した。

「そして今年は、四半期ごとにDPRK関連の応募を27％多く検知しています」と、Amazonの最高セキュリティ責任者スティーブ・シュミットは述べた。

レブホルツによれば、この問題は彼が所属するCISOのチャットグループで少なくとも月に一度は話題になり、誰もが最善の解決策を見つけようとしているという。

ハイテクとローテクの解決策

「ローテクとハイテクの解決策を組み合わせる必要があります。ローテクは、単に指摘することです」とレブホルツは言う。「私にとって最大の学びは、直感を信じること。今後の自分のルールは、社会的な気まずさは忘れることです。時間を無駄にするより、最初に異議を唱えて気まずい会話をするほうが重要です。」

経営層と企業にとって、失うのは時間だけでは済まない。この種のIT労働者詐欺は、米国企業に数千万ドル規模の損害を与えてきた。 

「その人物を採用してしまえば、会社に潜在的なリスクが生じます。たとえば、その個人が情報を盗むセキュリティインシデントになるかもしれないし、犯罪者に給料を払っていることになるかもしれない」とレブホルツは言う。

場合によっては、詐欺師が内部アクセスを利用して独自のソースコードを盗み、その他の機微なデータも奪い、その後、身代金が支払われない限り企業データを漏えいすると脅して雇用主を恐喝する。

直感を信じることに加え、レブホルツは、面接中はカメラをオンにしておくことを義務づけ、面接者がバーチャル背景を使っている場合はオフにするよう求めるべきだと提案する。拒否されたら面接を終了する。 

「それでも何らかの理由で疑わしいなら、背景にある何かを取ってきて机に持ってくるよう頼んでください」とレブホルツは言う。「昔ながらの、顔の前で手を振らせるやり方は――完全に終わっています。」現代のディープフェイクソフトはその手口を突破できる、と彼は付け加えた。

応募者を採用した後は、リモート職であっても最初の1週間は出社させることを求める。「面接プロセスを通過しようとしているこの人物に、少しだけ摩擦を加えることが重要なんです」とレブホルツは言い、あるCISOから、初日――出社が求められた唯一の日――に現れた人物が、経営陣が面接した人物と同一ではなかったと聞かされた、と述べた。 

詐欺師たちは「リモートに移行できるようになる前に、初日だけオフィスに来る人を雇っていた」のだという。