法務
MeetingTVは証拠の提示を求めている
MeetingTVは、パロアルトネットワークスを提訴しました。同社が新たに買収した脅威インテリジェンス企業Koi Securityが公開したブログ記事が、ビデオ会議・ウェビナーサービスを手がけるこのスタートアップ企業を、中国の企業スパイ活動と結び付けたことが理由です。
Koi Securityとその研究者、そしてパロアルトネットワークスを被告とするこの訴訟では、Koiが脅威レポートの作成にLLM(大規模言語モデル)を使用し、そのAIシステムがMeetingTVに関する調査結果を幻覚(ハルシネーション)によって生成したにもかかわらず、同社は12月30日付のブログ記事でそれを事実として公開したと主張しています。
訴訟資料 [PDF]によると、この訴状はKoiを「大規模なマルウェア・企業スパイ活動キャンペーンを展開する潤沢な資金を持つ中国の犯罪組織の中核インフラを運営しているとして、原告MeetingTV Inc.を虚偽に犯罪行為で告発する、AI駆動型サイバーセキュリティレポートの無謀な公開」を行ったとして非難しています。
訴状はさらにこう続けています。「この虚偽の帰属は、Koiが独自開発した分析プラットフォーム『Wings』への無検証の依存が直接の原因です。同プラットフォームは、原告の事業と、同社がDarkSpectreと呼ぶサイバー犯罪者との間に、誤った相関関係を生成しました」
パロアルトネットワークスの広報担当者はThe Registerの取材に対し、同社は「買収以前にKoi Securityが公開した脅威調査レポートに関して、MeetingTV Inc.が起こした訴訟について認識している」と述べましたが、MeetingTVの主張やKoiのブログ記事に関する具体的な質問への回答は拒否しました。
「Koiのサイバーセキュリティ調査は、ユーザーや企業に対する脅威を特定し明らかにするという同社の取り組みを反映したものだと考えています。この係争は適切な法的手続きを通じて解決されるものと見ています」と広報担当者は述べています。
Koiのブログ記事はその後、告知なく編集され、MeetingTVの製品「Zoomcorder」への言及が削除されました。しかし当初の記事では、この会議録画サービスを中国の犯罪組織の「表向きの窓口」と位置付け、「インフラに信ぴょう性を与えると同時に、資金洗浄の経路としても機能していた」と記載していました。MeetingTVは訴訟の中でこれらの主張に異議を唱えています。ブログ記事はまた、この組織が220万人のユーザーを標的に企業の会議情報を盗み出すキャンペーンの背後にいると主張していました。
MeetingTVによると、このレポートの結果、世界各国のセキュリティ企業やサービスプロバイダーがMeetingTVのドメインやサービスをブロックし、マルウェアおよびコマンド・アンド・コントロール(C2)インフラだとレッテルを貼ったといいます。
このスタートアップ企業の創業者兼CEOで、長年起業家として活動してきたMichael Robertson氏は、そもそもこうしたブロックによって初めてKoiのレポートの存在を知ったと語っています。Robertson氏によれば、Koiは脅威レポートを公開する前にMeetingTVへ連絡を取ることはありませんでした。
「公開後でさえ、彼らは一度も私たちに連絡してきませんでした」と同氏はThe Registerに語りました。「私自身がセキュリティ企業に一社ずつ連絡を取り、ブロック解除を依頼しました。ほとんどは何の反応もありませんでしたが、最終的に一社だけ返答があり、Koiのレポートが原因でブロックしていると教えてくれ、そのURLも提示してくれました」
Robertson氏によれば、Verizonや、4月にKoiの買収を完了させたパロアルトネットワークスを含むプロバイダーが今もこのスタートアップ企業をブロックし続けており、依然として苦境が続いているといいます。「インターネット上で自社にアクセスできない状態に置かれるというのは、企業にとって死刑宣告に等しいものです」と同氏は述べています。「その上、今やあらゆるLLMが、私たちが中国のサイバー犯罪者と結託していると言い出す始末です。これをどうやって撤回させればいいのでしょうか」
買収完了後、Robertson氏はパロアルトネットワークスのCEO、Nikesh Arora氏に直接メールを送り、対応を求めました。
そのメールにはこう書かれていました。「現在、貴社はKoiを傘下に収め、虚偽のレポートを公開・依拠し続けています。私たちのドメインおよびGoogleサブドメインは、貴社をはじめ世界各国の企業によってマルウェアおよびコマンド・アンド・コントロールとしてブロックおよびレッテル貼りされています……私たちを中傷しているこの虚偽のレポートを取り下げ、その代わりに全面的な撤回声明を出してください。貴社独自のブラックリストから私たちのドメインを削除し、Koiのレポートを理由に私たちをブロックしている他社からも削除されるよう協力してください」
正体不明の拡張機能
12月のブログ記事は、ZoomcorderをZoom Stealerキャンペーンに関連付け、それを中国の脅威アクター「DarkSpectre」の仕業だとしました。その根拠とされたのが「Twitter X Video Downloader」という名のブラウザ拡張機能でした。しかしRobertson氏と訴状によれば、この拡張機能は実在せず、MeetingTVが情報提供を求めた際もKoiは「情報の提供を拒否した」といいます。
訴状は次のように主張しています。「Koiの単独犯行説は、捏造された技術的な『橋渡し』要素、すなわち彼らが繰り返し『Twitter X Video Downloader』拡張機能と呼んだ単一のソフトウェアに基づいていました。この架空の拡張機能は、Zoom Stealerキャンペーン(原告のインフラのみによって定義されたもの)と、DarkSpectreの中核インフラであるShadyPandaとを結び付ける決定的な橋渡し役として描写されていました」
Robertson氏は、KoiがLLMを使って脅威レポートを作成し、それがMeetingTVのZoomcorder製品に関する調査結果を幻覚によって生み出し、同社がそれを事実として公開したと考えていると述べました。
「彼らはAIを分析に使用したことを認めています」とRobertson氏は述べています。「もしかしたら人間がでっち上げたのかもしれませんし、AIによるものかもしれません。はっきりしているのは、そのソフトウェアが存在しないのであれば、どんなに初歩的な分析さえ不可能だったはずだということです。それにもかかわらず、彼らは私たちのURL、サービス、ソフトウェアを犯罪行為だとレッテル貼りしたのです」
Robertson氏によれば、この一件の背後にあるより大きな問題は、AIシステムが幻覚を起こすことが既に知られているという点です。その調査結果は、人間によるレビューを一切経ずに事実として受け入れられるべきではありません。
「私たちは今、AIが人々の人生を左右する重大な判断に使われる時代の入り口に立っています。納税をきちんと行ったか、信用格付けはどうあるべきか、大学に入学できるか、住宅ローンの資格があるか、渡航禁止リストに載せるべきか、といったことです」とRobertson氏は述べています。
「そうした判断が、人間による監督なしに下されることになるのでしょうか。人々には正当な手続きが保障されるのでしょうか――自分に対する告発の内容を確認し、自ら証拠を提示し、中立的な裁定者に判断してもらう機会が。私たちのケースでは、そのいずれも行われませんでした」と同氏は続けました。「彼らはただ一方的に私たちを犯罪者だと決めつけ、それを世界に向けて公開しただけなのです」®
