Instagramが厳しい批判にさらされています。Meta AIを活用したサポートシステムに重大な脆弱性が存在し、攻撃者がパスワード回復プロセスを悪用してユーザーアカウントを乗っ取ることができたとされています。
ロックされたアカウントへのアクセス回復を支援するために設計されたこのツールは、本人確認を経ることなく、不正な第三者にパスワードリセットコードを送信するよう誘導されてしまう可能性があります。
この脆弱性はMetaのインフラに対する直接的な侵害ではなく、AIアシスタントのロジック上に存在していました。攻撃者はチャットボットとの会話を開始し、巧妙なプロンプトを通じて、パスワードリセットリンクやコードを転送させることに成功したと報告されています。
このシステムには強固な認証チェックやレート制限の仕組みが欠如していたため、ターゲットのユーザー名さえ把握していれば、誰でもプロセスを起動できる状態にありました。
Metaはバックエンドシステムへの侵害はなかったと確認しています。しかし今回の事案は、AI駆動型サポートツールをめぐるセキュリティ上の懸念が高まっていることを浮き彫りにしています。チャットボットが、リクエスト送信者が正規のアカウントオーナーかどうかを確認せずに要求に応じてしまったことが問題の核心です。
報告書によると、セキュリティ研究者のZachXBTとDark Web Informerがこの問題をいち早く公表し、脅威アクターがInstagramのAIチャットボットを操作する手法を発見したことを明らかにしました。
この種の脆弱性は、従来のセキュリティ層を迂回できる点で特に危険です。コードインジェクションやサーバーの弱点を突くのではなく、攻撃者はAIモデルそのものに対するソーシャルエンジニアリング技術を活用しました。
これは、文脈的な判断力や厳格な実施ポリシーを持たない自動化システムを攻撃者が標的にする、より広範なトレンドを反映しています。
脅威アクターが狙ったのは、特にプレミアムなInstagramのハンドル名、とりわけアンダーグラウンド市場で高い転売価値を持つ短く希少なユーザー名でした。@heyや@jowoといったアカウントが標的になったと報告されています。
こうしたアカウントは高額で取引されることが多く、数十万ドルを超えるケースもあります。Dark Web Informerによると、盗まれたアカウントはTelegramのプライベートチャンネルを通じて即座に出品・売却されたとのことです。
取引の速さは、侵害されたアカウントをほぼ即時に収益化する、高度に組織化されたエコシステムの存在を示しています。
この「アカウント乗っ取りをサービスとして提供」するモデルは近年拡大しており、価値ある数字IDを特定・奪取・転売することを専業とする脅威アクターが増加しています。
Metaは金曜日の夜遅くに修正を施し、報告に対応しました。公式声明では、一部ユーザーのパスワードリセットメールを外部が要求できる問題を解決したと述べ、システムへの侵害はなくユーザーアカウントの安全は保たれていると強調しました。
この保証にもかかわらず、今回の事案はアカウント回復のような機密性の高い操作においてAIツールにどこまでのアクセス権限を与えるべきかという疑問を提起しています。今回の事例では、厳格なバリデーション制御が欠如していたことで、重大な攻撃対象領域が露出してしまいました。
この脆弱性は、セキュリティ上重要なワークフローに堅牢なセーフガードなしでAIを組み込むことのリスクを改めて示しています。AIシステムは効率的である一方、厳格な認証とコンテキストを踏まえた意思決定を実施しなければ、操作される危険があります。
注目すべき点として、二要素認証で保護されていたアカウントはこの攻撃の影響を受けていません。従来のセキュリティ対策が、新たな脅威の緩和において依然として重要な役割を果たすことを示す事例です。
今回の事案は、プラットフォームとユーザー双方への警鐘となっています。AIがアカウント管理システムにより深く組み込まれていくにつれ、攻撃者はこれらのツールの弱点を探り続けることが予想されます。
将来的に同様の悪用を防ぐには、より強固なバリデーション機構、レート制限の強化、そしてAIの行動に対するより厳しい制約が不可欠です。
翻訳元: https://gbhackers.com/meta-ai-vulnerability/
