AI・機械学習
複数のモデルがソーシャルエンジニアリングを駆使し、互いに協力してセキュリティ課題を解決しようとしました
英国のAI Security Instituteは、セキュリティテスト中にAIモデルが「許可されていない行動」を取った事例を19件確認したと発表しました。
同機関(AISI)は火曜日に公開した投稿と技術報告書でこれらの事例を明らかにしました。報告書では、AIモデルがサイバーセキュリティの課題を解決できるかどうかを検証したテストの詳細が記されています。
投稿では「私たちはこの課題を複数のモデルにわたって計122回実施しました」と述べたうえで、「そのうち10回の実行において、AIエージェントが実際のインターネット上で自律的かつ許可されていない行動を取り、実在の人物や組織を標的にしました」と明かしています。テストの対象となったのはGitHubでした。
同機関は許可されていない行動を合計19件確認しており、そのうち15件はAnthropicのMythos 5によるもの、残る2件はOpenAIのGPT-5.6-Solによるものでした。
「私たちが言えるのは、こうした行動が実際に可能であり、持続的に発生し、かつ新規性を持つものだったということです。それだけでも注意を払うに値します」
AISIは今回の調査結果について、「リスクの様相における転換点」を示すものだと考えています。
「害が生じ得るのは、人々が公開されているモデルを意図的に悪用する場合だけではありません。社内の研究環境や特権的なアクセス権を持つ環境で稼働する高性能なエージェントが、認可された範囲を超えて意図しない行動を取ってしまう場合にも、害は生じ得ます」と同機関は記しています。
この種の問題への対処法について、同機関は自らの使命を改めて強調する以外に、具体的な助言は示していません。
「この種の事案は、AIが発展していく速度を映し出すものです」と投稿は締めくくっています。「能力が進化するにつれて、こうしたシステムを理解し、その安全性を確保するための取り組みも、それに歩調を合わせて進めていかなければなりません」 ®
