Facebookの新しいAIツールがストーリーのアイデアのために写真のアップロードを要求、プライバシー懸念が浮上

Metaが所有するソーシャルネットワークプラットフォームであるFacebookは、ユーザーに対して、携帯電話から写真をアップロードするよう求めています。これにより、AI（人工知能）を使ってコラージュやまとめ、その他のアイデアを提案することができ、サービスに直接アップロードされていない写真も対象となります。

この機能を最初に報じたTechCrunchによると、ユーザーがFacebookで新しいストーリーを作成しようとした際、「クラウド処理を許可する」かどうかを尋ねる新しいポップアップメッセージが表示されるようになっています。

「あなたのためのアイデアを作成するために、カメラロールからメディアを選択し、時間、場所、テーマなどの情報に基づいて継続的に当社のクラウドにアップロードします」と、同社はポップアップで説明しています。「提案を見ることができるのはあなただけです。あなたのメディアは広告ターゲティングには使用されません。安全性と整合性のためにチェックを行います。」

ユーザーが写真のクラウド処理に同意した場合、MetaはAI利用規約にも同意したことになり、メディアや顔の特徴の分析が許可されます。

ヘルプページでMetaは「この機能はまだ全員には提供されていません」と述べており、米国とカナダのユーザーに限定されているとしています。また、これらのAI提案はオプトイン（任意参加）であり、いつでも無効にできることもTechCrunchに指摘しました。

この開発は、企業がAI機能を製品に急速に統合しようとする中で、しばしばユーザープライバシーが犠牲になることの新たな一例です。

Metaは新しいAI機能がターゲット広告には使われないと述べていますが、専門家は依然として懸念を示しています。人々が個人的な写真や動画をアップロードする場合—even同意したとしても—そのデータがどれくらいの期間保存され、誰が閲覧できるのかは不明です。処理がクラウド上で行われるため、特に顔認識や、時間・場所などの隠れた情報に関してリスクがあります。

たとえ広告に使われなくても、この種のデータはAIの学習データセットに組み込まれたり、ユーザープロファイルの構築に利用されたりする可能性があります。これは、あなたの写真アルバムをアルゴリズムに渡し、あなたの習慣や好み、パターンを静かに学習されるようなものです。

先月、Metaは欧州連合（EU）内のプラットフォームで成人が共有した公開データを使ってAIモデルのトレーニングを開始しました。これはアイルランドのデータ保護委員会（DPC）から承認を受けた後のことです。同社は2024年7月、政府によるプライバシー懸念を受けて、ブラジルでの生成AIツールの利用を停止しました。

このソーシャルメディア大手は、WhatsAppにもAI機能を追加しており、最近では未読メッセージを要約する機能を、プライバシー重視の「プライベートプロセッシング」方式で導入しました。

この変化は、テック企業が利便性と追跡を組み合わせる生成AIの大きなトレンドの一部です。自動生成のコラージュやスマートなストーリー提案のような機能は便利に見えますが、アプリだけでなくデバイスの使い方全体をAIが監視することに依存しています。そのため、プライバシー設定、明確な同意、データ収集の制限がこれまで以上に重要になっています。

FacebookのAI機能はまた、ドイツのデータ保護当局の一つが、違法なユーザーデータの中国への転送を理由に、AppleとGoogleに対してDeepSeekのアプリを各アプリストアから削除するよう求めたタイミングでも登場しました。これは、イタリアや台湾など、複数の国が年初に示した同様の懸念に続くものです。

「このサービスは、ユーザーのすべてのテキスト入力、チャット履歴、アップロードされたファイル、位置情報、使用デバイスやネットワークに関する情報など、広範な個人データを処理しています」と、ベルリンのデータ保護・情報自由委員会が発表した声明で述べられています。「このサービスは、収集したユーザーの個人データを中国の処理業者に転送し、中国のサーバーに保存しています。」

これらの転送は、ドイツのユーザーデータが中国でEUと同等の保護水準で守られている保証がないため、欧州連合の一般データ保護規則（GDPR）に違反しています。

今週初め、ロイターは中国のAI企業が同国の軍事・情報活動を支援し、ユーザー情報を北京と共有していると、米国務省の匿名高官の話として報じました。

数週間前には、OpenAIも米国国防総省（DoD）と2億ドル規模の契約を締結し、「戦闘および企業領域の重要な国家安全保障課題に対応するための最先端AI能力のプロトタイプ開発」に取り組むことになりました。

同社は発表で、ペンタゴンが「最先端AIが管理業務をどのように変革できるかを特定・プロトタイプ化するのを支援する」とし、「軍人やその家族の医療サービスの改善から、プログラムや調達データの閲覧方法の効率化、積極的なサイバー防御の支援まで」幅広く貢献すると述べています。