MetaのAIチャットボットへのハッキング

ハッカーたちがMetaのAIサポートチャットボットを巧みに操作し、他人のアカウントを乗っ取る手口が明らかになっています。

Xに投稿された動画には、他人のInstagramアカウントをハッキングする手順が段階的に映し出されていました。ハッカーはまず、Instagramの自動アカウント保護機能を回避するため、VPNを使用してターゲットの推定所在地を偽装したとされています。次に、Meta AIサポートアシスタントとのチャットを開き、ターゲットのアカウントに新しいメールアドレスを追加するようボットに要求しました。チャットボットはハッカーが指定したメールアドレスに確認コードを送信し、ハッカーがその確認コードをチャットボットに伝えると、チャットボットは「パスワードをリセット」するボタンを表示しました。ハッカーは新しいパスワードを入力し、被害者のアカウントを乗っ取ることに成功しました。

[…]

月曜日、InstagramのスポークスマンであるAndy Stone氏は、Wongらのポストへの返信の中で、この問題はすでに修正済みであると述べました。不正にアクセスされたInstagramユーザーの数については明らかになっていません。

ただし、話はそれほど単純ではありません。今回の特定の手口はおそらくブロックされましたが、他にも数多くの手口が存在しており、それらを一括してブロックすることは不可能です。根本的な問題は、LLMチャットボットがこのような用途に使用するには信頼性が十分でないという点にあります。

関連する別のニュース記事もご参照ください。