- Check Point が GenAI ツールが C2 インフラストラクチャとして悪用される可能性があると警告
- マルウェアは AI クエリを介して攻撃者が管理する URL にデータをエンコードすることでトラフィックを隠すことができます
- AI アシスタントは意思決定エンジンとして機能し、ステルス性があり適応的なマルウェア操作を可能にする場合があります
ハッカーはいくつかの生成型人工知能（GenAI）ツールをコマンド・アンド・コントロール（C2）インフラストラクチャとして使用し、悪意のあるトラフィックを隠蔽し、さらには意思決定エンジンとして使用する可能性があると、専門家は警告しています。
Check Point の研究によると、Microsoft Copilot と xAI Grok の Web ブラウジング機能は悪意のある活動に悪用される可能性があると主張していますが、いくつかの前提条件が残っています。
デバイスにマルウェアをデプロイするのはほんの半分の仕事です。そのマルウェアは何をするかについての指示が必要であり、それらの指示の結果はまだインターネットを通じて送信される必要があります。セキュリティソリューションはこのトラフィックを拾い上げ、デバイスが侵害されているかどうかを判断することができます。これが「正当なトラフィックと混在する」ことが高品質マルウェアの主な機能の 1 つである理由です。そして今、Check Point は AI アシスタントを通じてそれを行う方法があると述べています。
機密データの収集とさらなる指示の取得
脅威アクターがデバイスをマルウェアで感染させると、機密データとシステム情報を収集し、エンコードして、攻撃者が管理する URL に挿入できます。たとえば、http://malicious-site.com/report?data=12345678 のように、data= 部分に機密情報が含まれています。
その後、マルウェアは AI に「このウェブサイトの内容を要約してください」と指示できます。これは正当な AI トラフィックであるため、セキュリティアラームをトリガーしません。ただし、情報は攻撃者が管理するサーバーに記録され、平然と中継されます。さらに悪いことに、ウェブサイトは AI が実行する隠されたプロンプトで応答できます。
マルウェアが AI に次に何をするかを尋ねると、問題はさらにエスカレートする可能性があります。たとえば、収集したシステム情報に基づいて、高価値エンタープライズシステムで実行されているか、それともサンドボックスで実行されているかを尋ねることができます。後者の場合、マルウェアは休止状態のままでいることができます。そうでない場合は、ステージ 2 に進むことができます。
「AI サービスがステルス輸送層として使用できるようになると、同じインターフェースは、外部の意思決定エンジンとして機能し、AI 駆動型インプラントと AIOps スタイルの C2 への足がかりとなる、トリアージ、ターゲティング、および運用上の選択をリアルタイムで自動化するプロンプトとモデル出力を伝達することもできます」と Check Point は結論付けました。
