人工知能ツールを使用してランサムウェアを構築したり、犯罪活動を実行したりする攻撃者は、期待していたものよりもはるかに少ないものしか得られないリスクがあります。
セキュリティ専門家のCandid Wuestは、攻撃者は大規模言語モデルを使用して、セキュリティ研究者のレポートから最新のランサムウェア技術をコピーできると述べました。彼らは集中型LLMまたは生成事前学習トランスフォーマー(GPTとも呼ばれる)を活用して、すべてのマルウェア感染を異なるものに見せることができます。国家支援の攻撃者は、GPTを活用してサイバー作戦を強化し、一部のタスクを自動化することができます。
しかし、このような使用には深刻なデメリットが伴います。特に、「ベストプラクティスまたは技術的深さ」に焦点を当てた基本を実施している組織を標的にする場合はそうです、とチューリッヒを拠点とするメッセージングセキュリティスタートアップxorlabの主席セキュリティアドボケイトであるWuestは述べました。
「ワンクリックですべてを実行するターミネーターランサムウェアは実際には存在しません」と彼は述べました。
攻撃者にとっての課題には、LLMを使用しようとするマルウェアの単一障害点、そのようなツールの幻覚の傾向が含まれます。彼らは実際には取得していないのに、ルートレベルのアクセスを取得したと主張する可能性があります。モデルは、システム上の存在しない暗号通貨ウォレットの検索を停止できず、永遠に空回りする可能性があります。また、現在の防御が容易に阻止するツールと戦術に依存している可能性が高いです。
Information Security Media Group(写真下のリンクを参照)とのこの音声インタビューで、Wuestは次のことについても議論しました:
- 悪意のあるプログラムを作成するためにガードレールをバイパスし続ける攻撃者の能力;
- マルウェア作成とサイバー作戦の強化に使用されるAIによってもたらされるリスクで、攻撃者に課題を提示するもの;
- Microsoft Copilotなどの正規のツールによって収集された機密データを標的とする「AIインサイダー」プロンプトインジェクション攻撃への対処。
Wuestは、チューリッヒを拠点とするメッセージングセキュリティスタートアップxorlabの主席セキュリティアドボケイトです。以前は、Acronisのサイバープロテクション研究担当副社長であり、セキュリティ部門の創設とEDR製品の開発を主導しました。それ以前は、16年以上にわたってSymantecのグローバルセキュリティレスポンスチームを技術リーダーとして構築し、NetSkyからStuxnetまでのマルウェアと脅威を分析しました。Wuestは、RSACやBlack Hatなどのサイバーセキュリティカンファレンスで頻繁に講演しています。彼はCommodore 64でコーディングと英語を学びました。
