AIがサイバー犯罪者に危険なアドバンテージを与えている

ブレット・ジョンソン氏は、サイバー犯罪を攻撃側・防御側の両方から見てきた人物です。米シークレットサービスから「オリジナル・インターネット・ゴッドファーザー」と呼ばれた同氏は、初期の組織的サイバー犯罪コミュニティ「Shadow Crew」を立ち上げて運営した後、その世界から足を洗いました。現在は法執行機関や企業と協力し、かつて自らが仕掛けていたような脅威からの防御を支援しています。

Dark ReadingのKristina Beekとのこの対談で、ジョンソン氏はIllumioとともにBlack Hat USA（ラスベガス）で語った内容を紹介し、人工知能(AI)が攻撃にかかる時間をいかに圧縮できるかを実演しています。ジョンソン氏はまた、AIが今のところ攻守両陣営で使われているものの、攻撃側の方が有利な立場にあるという見解も示しています。この技術は脅威アクターを支援し、標的の調査、価値あるデータの特定、悪用可能な弱点の発見を高速化することで、いまだ脅威に後手で対応せざるを得ない防御側に対して優位に立たせています。

AIはまた、サイバー犯罪者予備軍にとっての参入障壁を下げてもいます。技術的なスキルの必要性が薄れ、犯罪者コミュニティが情報やチュートリアルを共有し続けることで、より多くの人がサイバー詐欺やその他の攻撃の実行方法を学べるようになっています。ジョンソン氏は、こうした変化によって病院や学校をはじめとする重要な組織がより大きなリスクにさらされ、オンライン上で目にし耳にする情報を信頼することがさらに難しくなりかねないと警鐘を鳴らしています。

対談の全編をぜひ聴いて、あわせてお読みください。Dark Readingのその他の動画コンテンツはこちらからご覧いただけます。

Kristina BeekとBrett Johnsonの対談全文

本トランスクリプトは、Informa TechTargetの社内AIアシスタントにより明瞭さと分量の観点から編集されています。完全な内容については、ぜひ動画をご覧ください。

Dark ReadingのKristina Beek: 今日はお時間をいただきありがとうございます、ブレット。とても楽しみにしていました。今年のBlack Hat USA（ラスベガス）でデモをされるとのことですが、まずご経歴と、Black Hatで共有される予定の内容について教えていただけますか。

ブレット・ジョンソン: 私は現代のサイバー犯罪の多くに責任がある人間です。米シークレットサービスからは「オリジナル・インターネット・ゴッドファーザー」と呼ばれました。

その称号を得た経緯としては、39の重罪について有罪を認め、米国最重要指名手配リストに載り、さらには刑務所からの脱獄も経験しました。ええ、本当にやったんです。そして最初の組織的サイバー犯罪コミュニティ「Shadow Crew」を立ち上げて運営しました。これは今日のダークネットやダークネットマーケットの前身であり、現代の金融サイバー犯罪チャネルが今なお機能する仕組みの基礎を築いたものです。Shadow Crewが興味深いのは、その種のダークウェブマーケットプレイスとして最初のものであるだけでなく、Telegramを別にすれば今日に至るまでこうしたチャネルやプラットフォームで使われ続けている信頼メカニズムを確立した点です。とにかく、それが私のやったことです。誇れることではありませんが、2004年8月にはForbesの表紙を飾りました。

2004年10月26日、米シークレットサービスは6カ国で33人を6時間のうちに逮捕しました。

公に「逃亡した」と報じられたのは私だけでした。彼らは約4カ月後に私を確保しました。そして私に仕事を与えたのですが、私はその後10カ月間、シークレットサービスのオフィス内から違法行為を続け、ついに発覚しました。その後、私は全米を股にかけた犯罪の逃避行に出て、4カ月で60万ドルを盗みました。そしてある朝、ラスベガスで目覚めると、米国最重要指名手配リストに自分の名前が載っていたんです。さて、この愚か者は何をしたと思いますか。画面を見つめて、声に出してこう言いました。「なあブレット、お前は最重要指名手配リストに載ったぞ」。

これからどうする、と自問して、私はこう答えました。「ディズニーワールドに行こう」。そして実際に行きました。

DRのKristina Beek: なるほど。

ブレット・ジョンソン: それも6週間ほどで終わりました。逮捕され、刑務所に送られ、脱獄し、また逮捕され、結局は服役しました。興味深いのは、悪の側にいた時も、そして今の善の側にいる時も、常に自分を気にかけてくれる人がいたということです。多くの人が本気で私に人生をやり直してほしいと願ってくれて、何度もチャンスを与えられ続けました。

そしてついに定着しました。それには何人かの人が関わっています。妻のミシェル（今は元妻ですが）、彼女がその一人です。FBI捜査官のキース・ムラルスキー、彼も一人です。犯罪グループの中では「マスター・スプリンター」という名前で通っていて、今では私の友人です。そしてCard Not Presentグループの編集者、カリッセ・ヘンドリック。彼女も私に人生をやり直すチャンスを与えてくれた一人です。今では私は世界中で講演し、あらゆる人にコンサルティングを行い、法執行機関と協力し、かつての自分のような存在から企業や消費者を守るために日々努力しています。それが私の要約です。

DRのKristina Beek: 完璧です。予想していたよりもはるかに波乱に満ちたお話でした。

ブレット・ジョンソン: （笑い）

DRのKristina Beek: それで今回、あなたはラスベガスに戻り、デモを行う予定なんですよね。そのお話を聞かせていただけますか。

ブレット・ジョンソン: もちろんです。Illumioと組んで取り組んでいるのですが、興味深いのは、ここ数年、犯罪者がAIをどう使うかという話題で持ちきりだったことです。コーディングなのか、信頼関係の構築なのか、その種の攻撃で何が起きるのか、と。正直に言うと、これと同じことがメタバースの時にも起きました。メタバースが登場した時、8,500社を超えるセキュリティ企業が「メタバースでこういう詐欺が起きる」と言い立てました。ところが実際には、メタバースの中には利用者が3人程度しかいないようなものもある。そんな風には事は運ばないんです。本当に運びません。

しかし、AIが台頭し始めた時にも同じような話題が沸き起こりました。正直に言うと、当時のAIはまあ、あまり大したことがありませんでした。本当にそうでした。ですが今は違います。今では非常に高性能で、有能という言葉すら超えています。そこで私がIllumioと一緒に示しているのは、AIがどのように攻撃を圧縮するかという点です。

攻撃側の視点、犯罪者の視点から言えば、物事を行うには時間がかかります。侵入・アクセス獲得の対象として特定の企業を狙うなら、その企業について調査しなければなりません。どのターゲットを狙うかを見極める必要があります。何を求めているのか——情報なのか、アクセス権なのか、データなのか、現金なのか——を把握しなければなりません。つまり、その企業の「至宝」が何かを見つけ出し、そこへのアクセスを獲得する必要があるわけです。そのすべてに調査の時間がかかります。

環境に侵入した後も、さらに調査を続けなければなりません。AIはこれを大幅に圧縮してくれます。私に代わって調査を行い、何が「至宝」なのかを教えてくれるのです。そのため時間が圧縮され、攻撃側からすれば侵入して作業を始めるだけで済むようになります。一方防御側は、依然として時間を持て余しています。私が中に入り込んでいるのを見つけても、次に何をすべきか悩まなければなりません。一方で私はそんな心配はいりません。すでにAIが手助けしてくれているからです。

つまりこのデモで言いたいのは、AIが攻撃そのものを実行しているわけではなく、あらゆる工程を圧縮することで、私がはるかに速く動き、結果としてより成功しやすくなっているという点です。防御側がより多くの時間を要する一方で、私はより短い時間で目的を達成できる。基本的にはそういうことです。

DRのKristina Beek: つまり、攻撃者がシステムに侵入するために必要な作業全体を、AIが本質的に効率化してしまうというお話ですね。

ブレット・ジョンソン: その通りです。

DRのKristina Beek: では逆に、防御側がAIを使って同じようなことを自分たちの側で行う方法はあるのでしょうか。

ブレット・ジョンソン: AI全体について、まずはっきりさせておきたいことがあります。私の考えでは、現時点でAIは防御側よりも攻撃側にはるかに大きな恩恵をもたらしています。

AIは学習する環境です。攻撃から学ぶためには、その攻撃を観測する必要があり、しかもその攻撃が成功していなければなりません。つまり反応的であり、予防的ではないのです。そしてこの状況は、今後3年、5年、あるいは7年ほど続くと私は本当に考えています。

とはいえ、その先には全く違う状況が待っているでしょう。今のところは、犯罪者や攻撃者の方が成功を収めており、防御側よりもAIを自分たちの利益のためにうまく活用していると思います。とはいえ、AIを使って攻撃を軽減したり、セキュリティを強化したりできないという意味ではありません。決してそうではないのです。例えば、あらゆる攻撃の90%は既知のエクスプロイトを使っています。あらゆるルーターの41%以上がデフォルトパスワードのままです。ほとんどの侵害はフィッシング攻撃から始まります。つまり、現存する脅威の様相はどのように形成されるか、すでに分かっているわけです。ですから、その脅威の様相をスキャンし、自組織にどのエクスプロイトが存在するかを把握して、そこにある穴を更新・修正するためにAIを活用することは十分に可能です。

攻撃側から見ても同じことが言えます。私はエクスプロイトを探して環境をスキャンし、場合によっては新しいものも探します。Anthropicはそれを見つけるのが割と得意なようですから。ですから私は環境をスキャンして、自分が使えるエクスプロイトを確認します。その視点で言えば、あなたが話しているのは、昔ながらのアップデートに関しても我々が抱えてきたのと同じ問題です。アップデートがリリースされる。

多くの人、多くの組織はそのアップデートにすぐには対応しません。そのまま放置してしまうのです。しかしアップデートというのは実際には、どのドアをノックすれば侵入できるかをすべての攻撃者に向けて放送しているようなものです。私が言いたいのは、問題を認識していながら何も対処していないなら、攻撃者は間違いなくその問題を把握していて、対処しているということです。つまり行動を起こさないことが、こうした問題の多くを引き起こしているのです。だからAIを使うなら、それは結構なことです。使った上で、指摘された点について実際に対処するなら、さらに良いことです。私にとって、これは結局のところ予防的か反応的かという問題です。そして善良な側は依然として反応的な段階にとどまっています。AIシステムを活用して予防的な立場に移行するには、もう少し時間がかかると思います。

DRのKristina Beek: なるほど。ご自身の経歴として、いわば「悪役側」だったというお話でしたが、AIによって悪役になることがずっと簡単になったことで、この世界に流入してくる人が増えていると感じますか。あるいは今後増えていくのでしょうか。

ブレット・ジョンソン: 興味深いのは、悪役・攻撃者・犯罪者という視点そのものにほぼ根本的な変化が起きていることです。かつては、サイバー犯罪やオンライン攻撃で成功するにはある程度のスキルが必要だという議論がありました。

今の議論は、中間者攻撃だろうと、その他どんな高度な攻撃だろうと、そうしたものから離れつつあるという方向にシフトしています。ソーシャルエンジニアリングへとシフトしているのです。これは根本的な転換です。TelegramやDread（フォーラム）にアクセスすれば、そうしたフォーラムや会話が展開されているのがわかります。そして会話の多くは、いかに効果的なソーシャルエンジニアになるか、いかに人を操ったり嘘をついたりして、相手に気づかれないまま自分の望む行動をとらせるか、という内容が中心です。

そういうシフトが起きているのを目にするわけです。とはいえ、AIが一役買っていることは間違いありません。役割を果たしています。しかし、現在サイバー犯罪が地球上で3番目に大きな経済規模になっている主な理由は、実はAIそのものではありません。主な要因は、人々が情報を共有・交換し、善良な側よりもはるかにうまく協力し合う環境が存在していることです。だからこそ、これほど多くの人が流入してくるのです。犯罪のどんな仕組みも知っている必要はありません。チュートリアルを買えばいいのです。

チャンネルに座って他のメンバーとチャットするだけで、合成詐欺の方法だろうとクレジットカード詐欺だろうと、何であれ喜んで教えてくれます。この環境自体と、アクセスのしやすさこそが、この人の流入を生み出しているのです。そしてAIが実際にやってくれることと言えば、合成詐欺の方法を知りたければ、それを段階的に教えてくれるということです。必要なのは、そうさせるための適切なプロンプトだけです。つまりAIは、潜在的な攻撃者を教育する手助けをしているのです。

AIは彼らがより安全に、身元を特定されずに済むようにも手助けします。狙うべき潜在的なターゲットのリストを提供することもできます。こうした点で、AIは間違いなくそれらを後押ししているのです。

私は本当に、オンライン環境で目にしたり耳にしたりするものをもはや信頼できなくなる、という問題に突き当たると思っています。そうなったらどうすればいいのか。これがAIがもたらす問題だと私は考えていますし、犯罪者や攻撃者がAIを使いたがる理由の一つでもあると思います。例えば私が犯罪者だった頃、私たちはランサムウェアに非常に関心を持っていました。しかし問題は、そこにゲートキーパーが存在したことです。それを作っている人たちを知らなければ、何が起きているのか本当のところは分かりませんでした。そして、そうした犯罪者を匿うコミュニティやフォーラム、プラットフォームの多くには、技術的に有能な人材はあまりおらず、コーダーもごくわずかしかいませんでした。

ですから、自分でランサムウェアを作るのはほぼ不可能でした。しかし今は違います。コーディングという行為自体がほぼ死滅していると言ってもいいくらいです。なぜなら、DeepSeekであれAnthropicであれ、あるいはOpenAIであれ、こうしたAIはコーディングを非常に得意としているからです。つまりAIは、攻撃者が首尾よく侵入するために必要とされていた敷居を下げているのです。

DRのKristina Beek: なるほど、まさにその通りですね。あなたは今や善良な側の人間ですが、例えばMythosのようなツールがあったとして、もしあなたがそれほど高度なツールを手にしていたら、何をしていたと思いますか。もし今、あなたを再び犯罪者の立場に置くとしたら、彼らはこうした非常に高度なツールで何をするでしょうか。

ブレット・ジョンソン: 私だったら、インフラや病院、人々にとって本当に重要なものに対するゼロデイ攻撃を見つけ出していたでしょう。そして攻撃を仕掛けて機能を停止させ、金銭を要求していたはずです。

DRのKristina Beek: それはまさに、医療機関に対するこうしたランサムウェア攻撃について私がいつも考えることです。心の中では、「彼らは本当に何も気にしていないのだろうか。誰であれリスクにさらすことを厭わないのだろうか」と思ってしまいます。

ブレット・ジョンソン: その通りです。

DRのKristina Beek: こうした状況で何が賭けられているのでしょうか。つまり、あなたが言いたいのは、彼らはおそらく本当に何も気にしておらず、ただただ金銭のことしか頭にないということでしょうか。

ブレット・ジョンソン: では、こう理解してください。ダークウェブマーケットプレイスを例に挙げましょう。中には、圧力鍋や武器、パームシュガー、フェンタニル、GHBの販売を許可しないダークウェブマーケットプレイスもあります。なぜ販売を許可しないのか。それは彼らの道徳的な羅針盤が十分に北を指しているからではありません。法執行機関からの報いを恐れているからです。そしてその報いはもしかすると終身刑になるかもしれない。実際にそういう例を見てきました。つまり、報いへの現実的な恐怖があれば、その攻撃者は病院を攻撃したりはしません。

Mythosのようなものがもたらすのは、そうした攻撃者にとっての参入障壁の引き下げです。数年前の夏、複数のランサムウェアグループがあり、いくつかの病院が被害を受けた際、これらのランサムウェアグループが謝罪を表明したことがありました。というのも、彼らはランサムウェアを外部に貸し出す仕組みを取っており、使いたい者なら誰でも使えるようにして、その見返りとして分け前を受け取っていたからです。そしてそれを使っていた一部の者たちが、病院を非常に効果的に狙って攻撃していました。だから彼らは謝罪したのです。

しかしMythosのようなものがあれば、そうした歯止めはなくなってしまいます。本当になくなるのです。なぜなら今や誰でもそれができるようになるからです。そして誰でもできるようになるということは、長年その世界にいたベテランたちにとって、全体としての利益の余地が狭まることを意味します。参入障壁を下げ、利益を減らせば、人々は利益になるターゲットを必要とするようになります。

結局のところ、それは病院、学校、電力網といったものを意味します。そしてまさにそれが実際に起きることになるでしょう。敷居を下げるほど、より多くの攻撃者がその世界に入ってくることになります。

彼らが持っていた道徳的な羅針盤がどんなものであれ、それは一貫して南を指すようになり、北を指すことはなくなるでしょう。そして基本的には、どれだけ利益が出るか、出せるかにかかってくることになります。彼らはそれを正当化するでしょう。患者のことなど気にかけていなかった。だから自分の行動に責任を取ろうとはせず、よくあることですが、被害者のせいにするでしょう。

DRのKristina Beek: こうした医療機関のようなところの回復力を高めるために、もし何かアドバイスがあるとすれば、どのようなものになりますか。というのも私の理解では、医療機関が攻撃を受けるのはごく一般的なことで、患者を抱えているためオンラインに復旧する必要があり、要求されたランサムウェアの支払い額がいくらであってもほぼ必ず支払うことになる、というのが実情だと思います。つまり、では今、彼らは何をすればいいのでしょうか。どんなアドバイスをされますか。

ブレット・ジョンソン: 医療分野が抱える問題の多くは、デバイスの更新に関するルールにあります。デバイスのファームウェアには、従わなければならない一定の規則が存在します。そしてそれが意味することは多くの場合、医療分野以外のどこかにあるソフトウェアはアップデートされてより安全になっている一方で、医療分野ではまず特定の規則に従う必要があるため、しばしばそうなっていないということです。

私たちには規制が必要です。神に誓って言いますが、私は特に今日の政府において規制には全面的に賛成です。あらゆる面でそうした保護が必要ですが、しかしこうした問題に対して本当に意味のある、理にかなった規制が必要なのです。それが第一点です。第二に、理解しておくべきことがあります。私はアラバマ州バーミンガムに住んでいますが、バーミンガムはかつて製鉄の街でしたが、今では医療の街になっています。私はHIPAAトレーニングに参加したことがあります。はっきり申し上げますが、それはほとんど役に立たないものです。

30分から1時間の動画を見る、それがHIPAAトレーニングです。つまり、セキュリティやプライバシーといったことについて、実質的な教育は何も受けていないに等しいのです。セキュリティ意識向上トレーニングにしても、詐欺への注意喚起にしても、それは同じです。

それで終わりです。私はこれを全面的に軽蔑しています。なぜ軽蔑するかというと、攻撃側の視点から言えば、私がソーシャルエンジニアリング攻撃などを仕掛けているとき、狙っているのは相手が感情的に反応することだからです。理性や論理を無視させ、ただ感情的な反応をさせることを狙っています。それができれば、私の勝ちです。

そうしたトレーニング、意識向上トレーニングが行われるのは理性的なレベルにおいてです。ですから、あることを理性的には一日中理解できたとしても、それは感情的に理解していることを意味しません。つまり私たちは、意識向上トレーニングのあり方そのものを見直し、攻撃者がそれをどう見ているかという観点から捉え直す必要があるのです。

DRのKristina Beek: なるほど。そろそろお時間ですが、冒頭で自己紹介された際に、犯罪の世界から足を洗った経緯と、それを助けてくれた人々についてお話しされていたことに話を戻したいと思います。今、こうしたサイバー犯罪者たちを見て、私が疑問に思うのは、彼らがどうやって自分自身の中にその答えを見つけるのかということです。犯罪の道から離れることを考えている人もいれば、どうすればいいか分からない人もいるでしょう。彼らにどんなアドバイスをしますか。彼らはどこでこの道から離れる決意を見出すのでしょうか。

ブレット・ジョンソン: もちろんです。まず第一に、何かがあなたを止めさせない限り、あなたはやめません。これは事実です。得意なことだから、自我を満たしてくれるから。オンラインだから、被害者に与えている損害を目にする必要がないから。その痛みを見なくて済むからです。それは単なる「情報」であって「人」ではないと、自分に言い聞かせられてしまう。そういう問題を抱えているのです。何かが強制的にやめさせない限り、やめることはありません。

なぜなら、そうしたことすべてが実際に起きているからです。私が言いたいのは、そして長年多くの人と話をしてきた経験から言うと、私はもう10年以上善良な側にいます。逮捕されていない犯罪者から連絡が来ることもあります。逮捕された犯罪者から連絡が来ることもあります。そして、そのほとんど——数十人のうち、本気で人生をやり直そうとしていたのはおそらく2人程度でした。「本気」というのは、あなたは善の側にいるか悪の側にいるかのどちらかだ、ということです。正しいことをする人生を計画しながら、正業で生計を立てられるようになるまでの副業としてクレジットカード窃盗や返金詐欺などを続ける、ということはできません。そんなことはできないのです。自分が人生のどこにいるのかを決めなければなりません。悪役であり続けるのか、それとも同胞を助けようとする人間になるのか。それこそが重要な点であり、結局のところそこに行き着くのです。

ほとんどの人はそれを理解していません。「人生をやり直したい、正しいことをしたい、でもこの別のことがうまくいくまでは今のままでいい」と考えてしまう。それは決してうまくいきません。決してうまくいかないのです。サイバー犯罪の世界でのし上がっていく過程で私が知り合った全員が、出口戦略を持っていました。全員が、ある一定の金額を持っていました。

その金額に達したら、やめるつもりだったのです。しかし、はっきりと申し上げますが、私たちは全員、その金額に達しても、そのまま突き進み続けました。なぜなら、あなたはやめないと分かっているからです。本当にやめられません。お金の意味、その価値を忘れてしまうのです。そしてより重要になってくるのが、自我の要素です。人々があなたの話に耳を傾け、あなたにへつらう。それが重要になってくるのです。

やめるのは非常に難しいことです。ほとんどの人は、刑務所に行くまでは決してやめません。そして出所すれば、たいていまたすぐに再開してしまいます。自分の内なる哲学そのものを変える必要があるのです。腰を据えて自分自身を見つめ直し、自分が人生のどこにいようとも、それは自分自身の選択の結果なのだと理解できなければなりません。どこにいようとも、です。

そしてもしそれを受け入れ、本当に理解し、自分がいたくない場所にいるのだと気づくことができれば、それが変化のきっかけになります。しかし、そこにたどり着かなければなりません。そしてほとんどの人は、自分の内側を見つめようとしません。ほとんどの人は誰か他人のせいにします。ほとんどの人は「この仕事で稼げるようになったらすぐに法を犯すのをやめる」という考えを採用してしまいます。そして、そういう考えを持っている限り、あなたは決してやめることはないのです。

DRのKristina Beek: なるほど。本当にありがとうございました、ブレット。おそらくここしばらくの中で、最も示唆に富んだ対談でした。

ブレット・ジョンソン: （笑い）

DRのKristina Beek: 今日は本当にお時間をいただき、ありがとうございました。心より感謝いたします。本当にありがとうございました。

ブレット・ジョンソン: こちらこそ。お元気で、また話しましょう。それでは、バイバイ。