昨夜、800万回以上再生された動画クリップの中で、AI女優ティリー・ノーウッドがインタビュー中に突如グリッチを起こし、Piers Morgan Uncensoredの番組内で予期せず中国語を話し始めました。
ノーウッドは、AI生成映画『Misaligned』への出演をめぐって、大きな論争と主流メディアの注目を集めている存在です。
彼女の制作陣は、このバイラル動画の主役であるAIキャラクターに誰でもビデオ通話できる「Talking Tilly」というサービスを運営しています。そこで筆者は実際に試してみて、大半の利用者が読み飛ばしてしまう利用規約の細部にも目を通しました。
この動画プレーヤーは現在広告を再生中です。マウスまたはキーボードで5秒後に広告をスキップできます
「もしもし」の前に顔スキャン
初回通話が接続される前に、自動年齢確認を通過する必要があります。
スペインを拠点とする本人確認プロバイダーDiditが、動画セルフィーを解析して年齢を推定します。推定結果が不明瞭な場合は、政府発行の写真付きID画像のアップロードが代替手段となります。
ティリーの運営会社である英Xicoia Ltdは、セルフィー画像はユーザーの端末からDiditへ直接送信され、顔紋様や生体認証テンプレートは作成されないと説明しています。また、セルフィーもID画像も確認後は一切保存されず、代わりにおおよその年齢層と参照番号のみを保持するとしています。
この確認はスキップできず、世界中の利用者に適用されます。また、職場での利用禁止や新たな自動安全システムとともに、今月になって初めてサービス利用規約に追加されたものです。
顔スキャンだけが実施されている解析ではありません。
通話中は常にシステムがカメラ映像を監視し、声のトーンを聞き取ってユーザーの感情状態を推測します。これにより、同社の言葉を借りれば、キャラクターが「その場の雰囲気に合わせて」応答できるようにするためだとしています。
プライバシーポリシーは、この機能について「個々の通話に対してオフにすることはできない」と率直に明記しています。望まない場合は電話をかけないしかありません。
注目すべきは、年齢確認と感情推測の両方について、法的根拠として本人の同意ではなく「正当な利益」を採用している点です。Xicoia自身の規約変更履歴を見ると、この選択は9月に行われたことが分かります。
通話は録音・文字起こしされ、米国のプロバイダーによってリアルタイムで処理されます。キャラクターの応答は、会話型ビデオプラットフォームTavusを介してGoogleのGeminiモデルによって生成されています。
安全システムには不具合も見られます。
自動分類システムが各通話の文字起こしを不適切な言葉についてスクリーニングし、該当すると判断した場合は録画データを保留します。
筆者が行った3回の通話のうち1回、天気とニュースの見出しについて雑談しただけの内容が、実際には存在しない「憎悪的・侮辱的な言葉」を理由に保留されました。同ポリシーによれば、誤ってフラグが立てられた録画は人間のレビュー担当者が解放できるとされていますが、いずれにせよ録画は24時間後に完全に削除されます。
最初の5分は無料、その後は課金開始
最初の5分間は無料です。それ以降は追加時間の購入を促され、5分間のスターターパックが0.99ポンド、15分間が13ポンド、30分間が22ポンドとなっており、購入できる時間は1人あたり最大35分までに制限されています。
このサービスは期間限定であるため、利用規約の細部が通常以上に重要な意味を持ちます。
無料・有料を問わず、すべての通話時間は9月27日にTalking Tillyが完全に停止すると同時に失効し、未使用分の時間は返金されません。
文字起こしデータは最大8週間保存され、Xicoiaの従業員やサードパーティのパートナーによって閲覧される可能性があります。一方、キャラクターは過去の会話の内容を記憶し、今後のやり取りをパーソナライズしますが、これは要求すれば削除できます。
英国が向かう方向性と合致
チャットボットと話すのに18歳以上であることを示す顔スキャンが必要というのは目新しく聞こえるかもしれませんが、これは英国が進んでいる方向性と一致しています。
オンライン安全法（Online Safety Act）の下、英国の利用者にサービスを提供するアダルトサイトは2025年7月以降、IDのアップロードまたは顔による年齢推定を義務付けられています。さらに、政府による16歳未満のソーシャルメディア利用禁止措置により、2027年春以降は新規にソーシャルメディアアカウントを開設する人全員にとって、同様の確認が当たり前のことになる見込みです。
英国政府が発表したこの禁止措置は、特にAI「コンパニオン」チャットボットを18歳以上向け規制の対象として明記していました（もっとも、同サービスの安全性に関する文書では「ティリーはコンパニオンではない」と主張しています）。これが、バイラルとなったAIキャラクターがサービス運用の途中で生体認証による年齢ゲートを導入した理由をおそらく説明しています。
その副作用として、英国の規制対応として下されたコンプライアンス上の決定が、マンチェスターからオハイオまで、世界中どこからかけてくる利用者に対して顔スキャンを課すことになっています。
事故か、それともマーケティングか
ティリーの生みの親であるイーライン・ファンデルフェルデン氏が設立したXicoiaは、このキャラクターについて、AI動画技術がどこまで進化したかを示すことを目的とした啓発プロジェクトだと説明しています。
筆者との通話で、ティリー自身はピアーズ・モーガンの一件について「承認された回答バージョンというわけではなかった」と説明しました。
Talking Tillyは、ピアーズ・モーガン出演から数日後の9月27日太平洋時間午後11時59分をもって、完全にサービスを終了します。
昨夜のあの失態が、今日ティリーが筆者に陽気に主張したように本当に偶然のものだったのか、それとも『Misaligned』制作陣によるタイミングを計った演出だったのかは、ティリー本人のみが知ることです。
