人工知能がますますゲームのルールを決める業界で、あるスタートアップが注目度の高いスキャンダルの渦中に立たされている。「Kira」という別名で知られるハッカーが、ベンチャーキャピタルのアンドリーセン・ホロウィッツの支援を受ける企業Doublespeedの活動を暴露した。
流出した資料によれば、このスタートアップは倉庫内に収容された1,100台以上のスマートフォンからなるネットワークを運用し、それらを単一の協調システムとして機能させ、TikTok上でコンテンツを自動生成・拡散していた。中核的な目的は、スポンサー投稿を自然発生的なコンテンツに偽装することでプラットフォームのアルゴリズムを回避し、レコメンドのフィードに表示させることだった。
端末に実在のユーザーは存在せず、ニューラルネットワークによって作られた仮想の「インフルエンサー」がいた。これらAI生成のペルソナは、化粧品から家電まで幅広い商品を宣伝し、本物のブロガーのように投稿に「いいね」を付け、コメントを残し、フィードをスクロールした。あらゆる行動が自動化され、キャラクターの声もAIで合成されていた。
Kiraは、プラットフォームのアルゴリズムを欺くために電話群が中央からどのように統制されていたかを示す、制御ダッシュボードの動画を入手した。専門家は、この種の行為がデジタルコンテンツへの信頼を損ない、ソーシャルネットワークが本来守るべき透明性の原則を揺るがすと警告している。
特に注目を集めているのは、作戦の規模とベンチャーキャピタルの関与だ。Doublespeedは既存の自動化ツールに頼るだけでなく、それらを最新の生成AIと融合させ、人間の参加者を欠いたインフルエンス産業を事実上作り出している。
同社は、クライアントが「トレンドを形作る」ことを支援する大量コンテンツ制作サービスとして自らを位置づけているが、流出により、実際には捏造されたストーリーやレビューに基づく人工的な推薦がユーザーに与えられていたことが明らかになった。検知を避けるため、運用側はIPスプーフィングや端末認識システムを回避する手法を用いていた。
アンドリーセン・ホロウィッツの支援は、気まずい疑問を投げかけている。同ファンドは最先端技術への積極投資と急速なスケーリングの推進で知られるが、Doublespeedの事例は、その資本が最終的にどのように使われるかについて監督が欠けていることを浮き彫りにした。暴露後の世論の反応は厳しく、ユーザーはデジタル空間における真正性の侵食を嘆き、業界関係者はこうした行為に対する規制強化を求めた。
想定される影響の一つは法的手続きだ。ハッカーはスマートフォン・ファームの管理システムだけでなく、仮想インフルエンサーサービスに料金を支払った顧客のデータにもアクセスしたと報じられている。その中には評判の疑わしい商品を宣伝していた者もいた。データ保護法の下では、重大な制裁につながり得る。現時点でDoublespeedは「AI倫理へのコミットメント」について曖昧な声明を出している一方、アンドリーセン・ホロウィッツは公のコメントを控えている。
この事件は業界全体への痛烈な警告となった。影響力はもはや生身の人格を必要とせず、産業規模で製造でき、広範な支持があるかのような錯覚を生み出せる。アナリストは、介入がなければこの種のファームが増殖し、人間が作るコンテンツを押しのけ、アルゴリズム生成の物語が優勢になると予測している。一方プラットフォーム側は調査を約束し、規制当局はAI生成コンテンツに対する新たな開示要件を含む可能性のある措置を検討している。
Doublespeedの一件は、公正なルールを回避しようとする中で自動化がどこまで進み得るかを示している。自動化とベンチャー資本に支えられたインフルエンス・ファームは、すでにソーシャルメディアの現実を作り替えつつあり、その中にどれほどの真正性が残っているのかを問い直している。
