ウクライナ政府高官によれば、ロシアのサイバー戦争における人工知能の使用は、フェイクニュースとプロパガンダキャンペーンを超えて拡大している。モスクワは現在、AIを直接マルウェアに埋め込んで、悪意のあるコマンドを「その場で」生成している。
ウクライナの国家安全保障防衛会議からの新しい報告書は、ロシアのサイバー作戦全体におけるAIの使用が過去1年間で急劇に拡大し、社会工学キャンペーンからマルウェア開発まで、あらゆることを再形成し、ウクライナ当局者が攻撃者と防御者との間の不均衡の増加を描いていると述べている。
長年、研究者たちはロシアの人工知能の使用を主に影響力作戦で追跡してきた—偽情報キャンペーンとオンライン操作の取り組みのための偽りのコンテンツを生成することである。しかし、ウクライナは、この技術がサイバー作戦自体にますます埋め込まれていると述べている。
昨年、研究者たちはLameHugと呼ばれるマルウェア株を特定した。ロシアの軍事インテリジェンスに関連するグループUAC-0001（別名APT28）によって配備された疑いがある。このマルウェアは、オープンソースの言語モデルを使用して、自然言語プロンプトを通じてシステムコマンドを動的に生成した。
報告書によると、ロシアのオペレーターはAIを使用してマルウェアを改善し、ScopeCreepバックドアを含めて、検出を回避し、侵害されたシステム内の権限を拡大するために設計された機能を追加した。
当局者は、このようなツールが予測可能な動作パターンに依存するのではなく、リアルタイムでアクションを生成できるため、従来のセキュリティ製品で検出するのが難しいと述べた。
研究者たちはまた、ロシアのハッカーが偵察、エクスプロイト開発、マルウェアコーディングおよびデバッグ、およびターゲット分析のためにChatGPTやGeminiなどの公開AIプラットフォームをますます使用していることを発見した。
西側のテクノロジー企業はAIシステムの悪意のある使用を制限しようとしているが、研究者たちは脅威アクターが使い捨てアカウントまたは侵害されたアカウントを使用して、または個人管理インフラストラクチャにMetaのLlamaなどのオープンソースモデルを展開することで、セーフガードをバイパスすることが多いと述べている。
AIの拡がりはマルウェアを超えて拡がっている。ウクライナは、AI強化フィッシングキャンペーンが社会工学攻撃をより効果的にしたと述べ、研究者たちは国の武装勢力のメンバーを対象とした個人化されたウクライナ語の音声ディープフェイクを記録した。AIチャットボットは、市民に破壊活動と諜報活動を行うよう説得することを目的とした採用努力を自動化するために使用されたとも言われている。
報告書はまた、ロシアがAIエコシステム自体を操作しようとする試みがますます増えていることを警告している。
研究者たちは、彼らが「AI中毒」と呼ぶ戦略を説明した。これは、大量のAI生成の偽情報がオンラインで押し出され、公開チャットボットシステムと将来のAIモデルが消費する情報を汚染するというものである。
「人工知能は、攻撃側に戦略的な優位性を与えることで、サイバースペースにおける重大な不均衡を生み出している」と研究者たちが書いた。
報告書は、攻撃者がAIを急速に採用して作戦を自動化・スケール化しているのに対し、防御的なアプリケーションは比較的限定的であり、主にアナリストがデータを処理し、日常的なセキュリティタスクを合理化するのを支援することに焦点を当てていると主張している。
「このギャップは、防御システムの開発者が現代のサイバー戦争の現実を完全に考慮しなかったことにより、さらに広がっている」と報告書は述べた。「これはAIを防御支援のための効果的なツールというより、攻撃作戦の画期的なツールにしている。」
翻訳元: https://therecord.media/ukraine-says-russia-using-ai-malware-on-battlefield
