Apple App StoreやGoogle Play Storeには、天気アプリからホームオートメーション、ゲームまで、あらゆる種類のアプリが並んでいます。しかし、ごく普通の写真から本人の同意なしにヌード画像を生成できるアプリがあるとは、なかなか想像がつかないでしょう。実際にはそうしたアプリが存在しており、サンフランシスコ市はついに我慢の限界に達しました。
2026年7月17日、サンフランシスコ市のデビッド・チウ市法務官は、AppleとGoogleに対して停止勧告書(cease-and-desist letter)を送付しました。対象となったのは顔交換系および「ヌード化」アプリ計13本（App Storeに8本、Google Playに5本）で、両社には28日以内にこれらのアプリを削除し、開発者との関係を断つよう求めています。
この勧告は突然出てきたものではありません。
争点はコンテンツモデレーションではなく決済システム
チウ氏は、アプリをホスティングしているというだけでプラットフォームがその挙動に自動的に責任を負う、と主張しているわけではありません。プラットフォーム運営会社は、通信品位法(Communications Decency Act)第230条をめぐる争いにおいて、すでに勝利を収めています。この30年前に制定された法律は、ウェブサイトはユーザーが投稿したコンテンツについて基本的に責任を負わないと定めており、コメント欄で誰かが名誉毀損的な発言をするたびに訴えられることなく、プラットフォームがユーザー生成コンテンツをホストできるようにしています。
裁判所はこれまで、こうした保護をアプリストアにも拡大適用してきました。AppleとGoogleは、サードパーティの開発者がアップロードしたものについて、発行者ではなく単なる流通業者として扱われています。
チウ氏はこの論点を回避するため、両社の決済システムに焦点を当てています。AppleとGoogleはアプリ内課金のたびに手数料を徴収している、という点です。Tech Transparency Project(TTP)によれば、これは両社が、本人の同意を得ないインティメート画像を生成することで収益を上げるアプリから利益を得ていることを意味します。
証拠には事欠きません。1月、TTPは調査により、App Storeに55本、Google Playに47本のヌード化アプリを確認しました。4月の追跡調査では、研究者らが「nudify」や「deepnude」といった検索語を意図的に使用したところ、Apple App Storeで46本、Google Playで49本のアプリが見つかりました。両ストアの検索結果のおよそ40%が女性を「脱がせる」ことを可能にしており、その3本に1本近くが未成年でも利用可能な年齢レーティングになっていました。
こうしたアプリの多くは女性の画像を使って宣伝されていますが、本人の同意を得ないインティメート画像の被害者には誰もがなり得ます。
同団体の推計によると、調査対象データセット内のアプリのダウンロード数は累計4億8,300万回に達し、生涯累計収益は1億2,200万ドルを超えています。AppleとGoogleに対する同団体の評価は辛辣なものでした。
「実在の人物を性的な画像に変換できるAIツールの拡散における、主要な関与者」
チウ氏の勧告書はこうした調査結果を反映しており、両社が次のように行っていると非難しています。
「アプリをホスティングし、アプリ内課金を処理することで、これらの画像の販売を意図的に助長、あるいは無謀にも助長している」
同氏はカリフォルニア州法も根拠にしています。カリフォルニア州の2025年の州法は、性的に露骨なディープフェイクの作成や拡散を助長する事業者の法的責任の範囲を拡大しました。民事罰は1件の違反につき最大25,000ドルに達する可能性があります。年間数百万件もの取引を行う企業にとっては、これは深刻な問題です。
プラットフォーム側も一部対応済みだが、十分ではない
チウ氏の動きは、AppleとGoogleへの牽制にとどまりません。同氏の事務所はすでに2024年から2025年にかけて、閲覧数の多いディープフェイクヌードサイト16件を追及し、実際に和解や閉鎖に持ち込んでいます。今回は同じ事務所が、同じ手法を、より大きな標的に対して用いているのです。
Appleの対応は部分的です。広報担当のアダム・デマ氏はWIREDに対し、指摘された13本のうち3本をすでに削除し、関連する開発者アカウントの停止手続きを開始したと述べました。残り10本は依然として利用可能な状態です。
Googleの広報担当ダン・ジャクソン氏は、Play Storeのポリシー違反を理由に、ヌード化機能を持つアプリを既に数百本削除済みだと述べています。
カリフォルニア州の裁判所が「収益分配」という論理を認めれば、州内の他のすべての市法務官にとってのひな型となります。アプリストア各社がこれまで維持してきた「自分たちは中立的な流通業者であり、商業的な関与者ではない」という立場は、決済インフラにまで及ぶ消費者保護法を持つ州であれば、どこであっても崩れていくことになります。
私たちにとっての意味
消費者にとっては、訴訟の行方以上に、こうしたアプリの仕組みそのものが重要です。顔交換アプリや写真加工アプリは、ストアの審査を通過したからといって自動的に安全というわけではありません。カメラロールへのアクセスを許可すれば、自分自身の写真や、友人・家族の写真を、それを悪用したり他者に悪用させたりしかねないサービスに渡すことになりかねません。
AI写真アプリをインストールする前には、要求される権限を確認し、開発者について調べ、そのアプリに関する懸念を指摘する独立した報道がないか調べてください。公式のアプリストアで配信されているからといって、そのアプリが信頼できるとは限りません。また、自分自身や自分が世話をしている人の画像を投稿する際には、いつもの基本ルールが当てはまります。
この話題に関心を持たれた方は、先月配信されたMalwarebytesのポッドキャストで、チウ氏の取り組みについてさらに詳しく聞くことができます。これは2026年にチームが行ったインタビューの再放送です。
詐欺師は、あなたが思っている以上にあなたのことを知っています。
Malwarebytes Mobile Securityは、フィッシング、詐欺テキストメッセージ、悪意のあるサイトなどからあなたを守ります。リアルタイムのAI搭載Scam Guardも標準搭載。
