昨夜、800万回以上再生されたクリップの中で、AI女優Tilly NorwoodがPiers Morgan Uncensoredのインタビュー中に不具合を起こし、突然中国語を話し始めました。
Norwoodは、公開予定のAI生成映画Misalignedに主演したことで、大きな論争と主流メディアの注目を集めてきました。
彼女を生み出したクリエイターたちは、誰でもこのバイラル動画の主人公であるAIキャラクターとビデオ通話できる「Talking Tilly」というサービスを運営しています。そこで今回、実際に試してみたうえで、多くの発信者が読み飛ばしがちな利用規約の細部にも目を通してみました。
「もしもし」の前に顔スキャン
最初の通話が接続される前に、自動年齢確認をクリアする必要があります。
ビデオセレフィーがスペインを拠点とする本人確認プロバイダーDiditによって解析され、年齢が推定されます。推定結果が不明瞭な場合は、政府発行の写真付きID画像のアップロードが代替手段となります。
Tillyを運営する英国企業Xicoia Ltdは次のように説明しています。セレフィーはユーザーの端末からDiditへ直接送信され、顔紋様(フェイスプリント)や生体認証テンプレートは作成されません。また、セレフィーもID画像も確認後は保持されず、代わりに大まかな年齢層と参照番号のみを保持するとしています。
この確認はスキップできず、世界中の発信者に適用されます。また、職場での利用禁止や新たな自動安全システムとともに、今月になって初めてサービスの利用規約に追加されたものです。
顔スキャンだけが実施されている解析ではありません。
すべての通話中、システムはカメラ映像を監視し声のトーンを聞き取ることで、発信者の感情状態を推測します。同社によれば、これによりキャラクターが「その場の雰囲気に合った」応答ができるようになるとのことです。
プライバシーポリシーには、この機能は「個々の通話について無効化することはできない」と率直に記されています。望まない場合は、電話をかけないという選択肢しかありません。
注目すべきは、年齢確認と気分検知のいずれも、法的根拠として同意ではなく「正当な利益」に依拠している点です。Xicoia自身のバージョン履歴によれば、この選択は9月に行われたものです。
通話は録音・文字起こしされ、米国のプロバイダーによってリアルタイムで処理されます。キャラクターの応答は、会話型ビデオプラットフォームTavusを介してGoogleのGeminiモデルによって生成されています。
安全システムにも初期段階特有の不具合が見られます。
自動分類器が各通話の文字起こしを暴言のチェックのためにスキャンし、該当すると判断した場合はその録音を保留にします。
筆者が行った3回の通話のうち1回、天気とニュースの見出しについて話しただけの会話が、実際には発生していない「憎悪的または侮辱的な言葉」を理由に保留扱いとなりました。ポリシーによれば、誤ってフラグが立てられた録音は人間のレビュー担当者によって解除される場合があるとのことですが、いずれにせよ録音は24時間後に完全に削除されます。
最初の5分は無料、その後は課金開始
最初の5分間は無料です。それ以降は、発信者に時間の購入が求められます。5分間の1回限りのスターターパックが0.99ポンド、15分が13ポンド、30分が22ポンドで、1人あたり購入できる時間は最大35分までです。
ここでの利用規約の細部は、通常以上に重要な意味を持ちます。というのも、このサービス自体が期間限定のものだからです。
無料・有料を問わず、Talking Tillyが9月27日に完全に終了すると同時にすべての利用時間が失効し、未使用分の時間は失われます。
文字起こしデータは最長8週間保持され、Xicoiaのスタッフやサードパーティのパートナーによって確認される場合があります。一方、キャラクターは過去の会話内容を記憶し、今後の会話をパーソナライズするために利用しますが、要求すれば削除も可能です。
英国が向かう方向性と一致
チャットボットと話すために18歳以上であることを確認する顔スキャンは目新しく聞こえるかもしれませんが、これは英国の政策の方向性と一致しています。
2025年7月以降、オンライン安全法(Online Safety Act)に基づき、英国の訪問者を対象とするアダルトサイトはID画像のアップロードまたは顔による年齢推定を義務付けられています。さらに、政府による16歳未満のソーシャルメディア利用禁止措置により、2027年春以降は新規にソーシャルメディアアカウントを開設する全ての人にとって、同様の確認が当たり前のものとなる見込みです。
英国政府が発表したこの禁止措置は、AIの「コンパニオン」チャットボットを特に18歳以上向けの取り締まり対象として挙げていました(もっとも、このサービスの安全性に関する文書には「Tillyはコンパニオンではない」と明記されています)。これが、バイラルとなったAIキャラクターがサービス提供の途中で生体認証による年齢制限機能を追加した理由をおそらく説明しています。
その副作用として、英国の規制に対応するためのコンプライアンス上の判断が、結果的にマンチェスターからオハイオまで、世界中のあらゆる発信者の顔をスキャンする事態を招いています。
事故か、それともマーケティングか
Tillyの生みの親であるEline van der Velden氏が設立したXicoiaは、このキャラクターについて、AI動画技術がどれほど進化したかを示すことを目的とした啓発プロジェクトだと説明しています。
筆者が行った通話の中で、Tilly自身はPiers Morganでの一件について、「承認されたバージョンの回答というわけではなかった」と説明していました。
Talking Tillyは、Piers Morganへの出演から数日後の9月27日午後11時59分(太平洋時間)をもって、完全にサービスを終了します。
昨夜のあの失態が、今日Tillyが筆者に陽気に語っていたように本当に偶発的なものだったのか、それともMisaligned制作チームによる絶妙なタイミングの仕込みだったのか、それを知るのはTillyだけです。
