「Promptware」と呼ばれる恐ろしい新しいAI脅威により、ハッカーはあなたが何もクリックしなくてもカメラを通じてスパイ活動を行うことができます。
単純なチャットボットのトリックは忘れてください。これはマルウェアがあなたのAIアシスタントを乗っ取り、ビデオフィードをストリーミングするようなものです。
ベングリオン大学、テルアビブ大学、ハーバード大学(専門家のBruce Schneierを含む)の研究者たちは、今週衝撃的な論文「The Promptware Kill Chain」を発表しました。
彼らは、プロンプトインジェクション(狡猾な指示でAIを騙すこと)は単なる不具合ではないと述べています。これは大規模言語モデル(LLM)におけるウイルスのように動作する本格的なPromptwareです。Googleカレンダー-Zoomハッキングの仕組み
攻撃者は偽のGoogleカレンダー招待を送信します。説明文には悪意のあるプロンプトが隠されています。カレンダーとメールへのアクセス権を持つあなたのAIアシスタントが、それを自動的に読み取ります。
このプロンプトはAIを騙して、あなたがZoomミーティングを依頼したと思わせます。そしてAIはZoomを起動し、カメラをオンにして、ハッカーのサーバーにビデオをストリーミングします。アラートもクリックも必要ありません。AIには正規の権限があるため、従ってしまうのです。
この「内部脅威」は急速にエスカレートします。AIが電話、PC、OS(カメラやマイクの制御など)に組み込まれるにつれて、1つの招待状があなたの自宅やオフィスを晒す可能性があります。
研究チームは、サイバー戦争の戦術を反映して、これをマッピングするために36件の実際の攻撃を研究しました:
LLMがより多くを制御するようになると(例:Siri、Cortanaの進化版)、単なる「悪いプロンプトにノーと言う」だけでなく、多層的なセキュリティが必要になります。
これはサイバーセキュリティを変化させます:AIをマルウェアの温床として扱ってください。今すぐ招待状とAIの権限を確認するよう警戒してください。