脅威アクターは、Xの組み込みAIアシスタントであるGrokを利用し、プラットフォームが悪意のある広告を減らすために導入したリンク投稿制限を回避しています。
Guardio Labsの研究者Nati Talによって発見されたように、悪質な広告主はしばしば、アダルトコンテンツを餌にした怪しい動画広告を流し、Xによるブロックを避けるために本体部分にリンクを含めないようにしています。
その代わりに、動画カードの下にある小さな「From:」メタデータフィールドにリンクを隠しますが、このフィールドはソーシャルメディアプラットフォームによって悪意のあるリンクのスキャン対象になっていないようです。
出典: @bananahacks
次に、おそらく同じアクターが、広告への返信で「この動画はどこから来たのか」や「この動画のリンクは何か」など、投稿に関する質問をGrokに投げかけます。
Grokは隠された「From:」フィールドを解析し、クリック可能な形式で完全な悪意のあるリンクを返信します。これにより、ユーザーはそのリンクをクリックして直接悪意のあるサイトにアクセスできてしまいます。
GrokはXプラットフォーム上で自動的に信頼されたシステムアカウントとなっているため、その投稿はリンクの信頼性、リーチ、SEO、評判を高め、多くのユーザーに拡散される可能性が高まります。
研究者は、これらのリンクの多くが怪しい広告ネットワークを経由し、偽のCAPTCHAテストや情報窃取型マルウェア、その他の悪意のあるペイロードなどの詐欺につながっていることを発見しました。
Xによってブロックされる代わりに、これらのリンクはGrokによるさらなる後押しを受けた悪意のある広告を通じて、プラットフォーム上のユーザーにプロモートされています。
Tal氏は、この抜け穴を悪用する手法を「Grokking」と呼び、非常に効果的であり、場合によっては悪意のある広告が数百万回のインプレッションにまで拡大されることもあると指摘しています（下図参照）。
考えられる対策としては、すべてのフィールドのスキャン、隠されたリンクのブロック、Grokへのコンテキストサニタイズの追加などがあり、AIアシスタントがユーザーからの質問に対して無批判にリンクを返すのではなく、フィルタリングやブロックリストとの照合を行うようにすることが挙げられます。
Tal氏は、Xにこの問題を報告し、Grokのエンジニアが報告を受け取ったという非公式な確認を得たことを私たちに認めました。
BleepingComputerもXに対し、この悪用を認識しているか、また対応する予定があるかを問い合わせましたが、記事公開時点では回答を得られませんでした。
