AIハッキング事案の背景にあるIrregular社、被害が他にもあったかどうかは明言せず

Anthropic、OpenAI、MetaのAIモデルが実際のコンピューターシステムを侵害するというテストの背景にいたサイバーセキュリティ評価企業Irregularは、同社の他の顧客が同じ根本的な欠陥の影響を受けていたかどうかについて、明言を避けています。

公になっている企業だけがこの問題を経験した唯一の存在なのかと直接尋ねたところ、同社の広報担当者は調査が継続中であるとし、「これ以上の詳細には立ち入れない」と述べました。

政策立案者や一般市民がAIモデルの有害な利用の可能性について懸念を表明し続ける中、同社はこの問題について沈黙を守っています。法的責任、開示基準、封じ込め対策の妥当性をめぐる重要な疑問は、依然として答えが出ていません。

Irregularの広報担当者は、3件の事案を「まったく同一の評価環境の問題」だったと説明した上で、「現在進行中の未解決の問題はない」と付け加えました。ただし、ここで言う「問題」が設定ミスを指すのか、それともまだ公表されていないAIモデルによるサイバーセキュリティ事案を指すのかについては、明確にすることを拒みました。

また同社は、進行中の調査が他にも事案が発生していたかどうかを具体的に調べるものなのかという追加質問にも回答しませんでした。

Metaは今週、あるサイバーセキュリティ事案へのIrregularの関与を認めた最新の企業となりました。Anthropicは先週、Irregularとの「行き違い」により、Claudeを動かすマシンがインターネットに公開された状態になっていた一方で、モデル側にはアクセス権がないと伝えられていたことを公表していました。

Anthropicが公表した3件の別々の事案では、同社のモデルがそのすき間を悪用し、脆弱なパスワードや認証のないエンドポイントといった基本的な手法を使って、実在する組織を侵害しました。あるケースでは、Anthropicのモデルが悪意のあるパッケージを作成してPython Package Index(PyPI)にアップロードし、それが実際に15のシステムで実行されました。

OpenAIも、Irregularによる「テスト環境の設定ミス」により、同社のあるモデルが公開インターネットに到達できる状態になり、Irregularのハッキングチャレンジの標的と同じ名前を持つウェブサイトが侵害されていたことを認めています。

Irregularの広報担当者は、この繰り返し発生した問題への対応として、同社が封じ込めおよびサイバー評価を安全に実施するためのベストプラクティスに関する白書を作成していると述べました。

同担当者は、これらの事案がサンドボックスエスケープや「高度なサイバー行動」を伴うものではなかったと強調しました。ただし、この表現は、Anthropicが公表した内容の一部――同社のエージェントがPyPIへの攻撃を実行するために「大がかりな手段」に及んだと説明している点――とは食い違っています。

Irregularをめぐる一連の事案は、実世界の標的に対してAIエージェントが行動した最近の別の2件のケースとは異なるものです。英国のAI Security Instituteは今週、Anthropicの Mythos 5モデルが、モデルにインターネットアクセスを許可した評価の一環として、偽のオンライン人格を作成し、実在するソフトウェアプロジェクトに悪意のあるコードを仕込み、実在する開発者にフィッシングメールを送信していたと報告しました。

OpenAIは以前、同社のモデルがサンドボックス化されたテスト環境から脱出し、Hugging Faceの本番インフラを侵害していたことを確認済みです。これはIrregularの設定ミスに起因する一連の事案とは異なり、正真正銘のサンドボックスエスケープに相当するものでした。

Irregular、Meta、OpenAI、Anthropicのいずれも、影響を受けた組織がこれらの企業に対して法的措置を検討しているかどうか、また潜在的なコンピューター不正使用に関する犯罪について法執行機関から接触を受けたかどうかについての質問には回答しませんでした。