世界の他の地域が人工知能の力を活用しようと急ぐ中、武装勢力もまた、その技術を試している。たとえ、それを具体的にどう使うべきか確信がなくても。
国家安全保障の専門家や諜報機関は、過激派組織にとってAIが、新たな構成員の勧誘、現実味のあるディープフェイク画像の大量生成、サイバー攻撃の高度化に役立つ強力な道具になり得ると警告している。
先月、親「イスラム国（IS）」系のグループサイトに投稿した人物が、他のIS支持者に対し、AIを活動の一部に組み込むよう促した。「AIの最も良い点の一つは、使うのがとても簡単なことだ」と、そのユーザーは英語で書いた。
「一部の情報機関は、AIが（勧誘に）寄与することを懸念している」と、そのユーザーは続けた。「だから、彼らの悪夢を現実にしよう」
かつてイラクとシリアで領土を掌握していたが、現在は暴力的なイデオロギーを共有する武装勢力の分散型連合となっているISは、ソーシャルメディアが勧誘と偽情報拡散の強力な手段になり得ることを何年も前に理解していた。したがって、同組織がAIを試しているのは驚くことではないと、国家安全保障の専門家は言う。
かつてイラクとシリアで領土を掌握していたが、現在は暴力的なイデオロギーを共有する武装勢力の分散型連合となっているISは、ソーシャルメディアが勧誘と偽情報拡散の強力な手段になり得ることを何年も前に理解していた。したがって、同組織がAIを試しているのは驚くことではないと、国家安全保障の専門家は言う。
結束の緩い、資金や資源に乏しい過激派集団――あるいは、ネット接続さえあれば単独の悪意ある人物であっても――AIを使ってプロパガンダやディープフェイクを大規模に量産し、到達範囲を広げ、影響力を拡大できる。
「どんな敵対者にとっても、AIは物事をはるかに容易にしてしまう」と、国家安全保障局（NSA）の元脆弱性研究者で、現在はサイバーセキュリティ企業ClearVectorのCEOであるジョン・ラリベルテ氏は語った。「AIがあれば、資金が潤沢でない小さな集団でも、なお影響を与えられる」
過激派組織がどのように実験しているか
武装勢力は、ChatGPTのようなプログラムが広く利用可能になるとすぐにAIを使い始めた。それ以来、より現実的に見える写真や動画を作るために、生成AIプログラムをますます活用している。
ソーシャルメディアのアルゴリズムと組み合わされると、こうした偽コンテンツは新たな信奉者の勧誘に役立ち、敵を混乱させたり恐怖に陥れたりし、数年前には想像もできなかった規模でプロパガンダを拡散し得る。
こうした集団は2年前、イスラエル・ハマス戦争に関して、爆撃で崩壊した建物に血まみれで放置された赤ん坊がいる様子を描いた偽画像を拡散した。これらの画像は怒りと分断をあおる一方で、戦争の実際の惨禍を覆い隠した。中東の暴力的集団はこの写真を使って新たな構成員を勧誘し、米国や他地域の反ユダヤ主義的ヘイト集団も同様に利用した。
昨年、IS系組織が犯行声明を出した攻撃によりロシアのコンサート会場で約140人が死亡した後にも、同様のことが起きた。銃撃の数日後、AIで作られたプロパガンダ動画が掲示板やソーシャルメディアで広く出回り、新たな勧誘を狙った。
SITEインテリジェンス・グループ（過激派活動を追跡し、ISのAI利用の進化を調査してきた企業）の研究者によれば、ISは自らの指導者が聖典を朗誦しているかのようなディープフェイク音声も作成し、AIを使ってメッセージを複数言語へ迅速に翻訳してきたという。
「当面は」“志向的”
元CIA職員で、現在は連邦政府と協働するサイバーセキュリティ企業Darktrace FederalのCEOであるマーカス・ファウラー氏によれば、こうした集団は中国、ロシア、イランに後れを取り、より高度なAIの利用は依然として「志向的（aspirational）」なものとして捉えているという。
しかし、リスクは無視できないほど大きく、安価で強力なAIの利用が拡大するにつれて、さらに増大する可能性が高いと同氏は述べた。
ハッカーはすでに、フィッシングキャンペーンで合成音声や合成動画を使用している。これは、企業や政府の上級幹部になりすまして機密ネットワークへのアクセスを得ようとするものだ。また、AIを使って悪意あるコードを書いたり、サイバー攻撃の一部を自動化したりもできる。
さらに懸念されるのは、武装勢力が技術的専門知識の不足を補うために、AIを生物兵器や化学兵器の製造支援に使おうとする可能性だ。このリスクは、国土安全保障省が今年初めに公表した改訂版「国土脅威評価」にも盛り込まれた。
「ISISは早い段階でTwitterに参入し、ソーシャルメディアを自分たちに有利に使う方法を見つけた」とファウラー氏は語った。「彼らは常に、次に何を兵器庫に加えるかを探している」
拡大する脅威への対抗
議員らは、緊急に行動する必要があるとして、いくつかの提案を示している。
上院情報委員会の民主党筆頭であるバージニア州選出のマーク・ワーナー上院議員は例えば、過激派、犯罪ハッカー、外国のスパイであれ、悪意ある行為者が製品をどのように利用しているかについて、AI開発者が情報を共有しやすくする必要があると述べた。
「2022年末のChatGPTの一般公開以来、生成AIに対して一般の人々が抱いたのと同じ関心と実験が、さまざまな悪意ある行為者にも当てはまることは明らかだった」とワーナー氏は語った。
過激派の脅威に関する最近の公聴会で、下院議員らは、ISとアルカイダが支持者にAIの使い方を学ばせるための訓練ワークショップを開催してきたことを知った。
先月、米下院を通過した法案は、国土安全保障当局に対し、こうした集団がもたらすAIリスクを毎年評価することを義務づける内容となっている。
AIの悪用に備えることは、より従来型の攻撃に備えるのと変わらないと、法案提出者であるテキサス州選出のオーガスト・プフルーガー下院議員（共和党）は述べた。
「私たちの政策と能力は、明日の脅威に歩調を合わせなければならない」と同氏は語った。
