Meta Platforms Technologiesは、2025年12月30日に付与された「言語モデルを使用したソーシャルネットワーキングシステムのユーザーシミュレーション」と題されたUS Patent 12,513,102 B2を取得しました。
2023年11月にMetaのチーフテクノロジーオフィサーであるアンドリュー・ボスワースによって当初提出されたこの特許は、ユーザーの過去のソーシャルメディア活動（投稿、コメント、いいね、チャット、音声メッセージを含む）で大規模言語モデル(LLM)を訓練し、ユーザーに代わってレスポンス、いいね、コメント、さらにはシミュレートされた音声/ビデオインタラクションを生成するシステムについて説明しています。
このAI「ボット」は、長期休暇や死亡後など、ユーザーが利用できないときに起動し、ユーザーのスタイルを模倣することでFacebookやInstagramなどのプラットフォームでのエンゲージメントを維持することを目的としています。
このテクノロジーは事前訓練されたLLMから始まり、Metaのシステムに記録されたインタラクションからのユーザー固有のデータを使用して精密化されます。
ユーザーはインターフェース経由でアクセス許可を付与でき、公開コメント対プライベートDMなどどのデータがモデルに供給されるかを選択でき、プライバシーをある程度コントロールすることができます。
展開されると、ボットはニュースフィードで関連コンテンツを監視し、コンテキスト付きのプロンプトを作成し(例：投稿者とユーザーの関係またはアフィニティスコア)、「いいね」やコメントなど本物のように見える行動を出力します。
例えば、ユーザープロフィールの詳細やイベントのタイミング（誕生日など）を考慮して、家族の投稿に対して友人の投稿とは異なる方法で対応する場合があります。
Metaのスポークスパーソンは、Business Insiderに対して、企業は「この例を進める計画がない」ことを強調し、特許はアイデアを実装を保証することなく保護することに注意しました。
これはFacebookのユーザー成長の停滞に続くもので、2024年後半に実在の人々を困らせた以前のAI「ユーザー」パイロットがあります。
しかし、このコンセプトはMetaの追悼ポリシーと対立しており、故人のアカウントを現在の状態で凍結します。バージニア大学の社会学者ジョセフ・デイビスのような批評家は、それが悲しみを妨害し、存在をシミュレートすることで混乱を引き起こすと警告しています：「死者を死者のままにしておきましょう。」
先例はリスクを浮き彫りにしています。Microsoftの2020年の故人チャットボット特許は、社内で「不適切」と判断され、棚上げされました。
Amazonは2022年に1分間の音声から祖母を模倣するAlexaのデモを実施しましたが、決して起動しませんでした。[query]スタートアップ2WaiのAIアバターは「悪夢のような」反発を呼び、方向転換を促しました。[query]ReplicaとYou, Only Virtualは悲しみから生まれましたが、「グリーフテック」で倫理的精査に直面しています。
サイバーセキュリティの観点から、これは成りすましのリスクを高めます。悪質な行為者は、同様のLLMをディープフェイク・ソーシャルエンジニアリング、「家族メンバー」アカウント経由のフィッシング、または死後の偽情報拡散に悪用する可能性があります。
権限が弱いか、データ漏洩は訓練データを漏らし、アカウント乗っ取りを可能にする可能性があります。防御策には、レガシーアクセスの堅牢な検証、AI開示命令、およびユーザーコントロール可能なキルスイッチが含まれます。
エンゲージメント向上などのビジネスインセンティブが迫る一方で、社会的準備不足、哲学的、感情的、規制的理由からそれは棚上げされる可能性が高いです。今のところ、ユーザーはプライバシー設定とレガシー連絡先を確認して、オンラインでの実際のアフターライフを保護する必要があります。
翻訳元: https://cyberpress.org/fake-google-forms-phishing/