米サンフランシスコ市のデイビッド・チウ市検事長が、Apple・Googleの両社に対し、実在の人物の画像を性的に加工する「ヌード化(nudification)」アプリ計13本をアプリストアから削除するよう求める書簡を送付したと、Wired誌が報じた。Ars Technicaも同日、この動きの詳細と両社の対応を伝えている。
何が起きたか
チウ氏の書簡は、Googleに対して5本、Appleに対して8本のアプリ削除を求める内容。対象とされたアプリは、通常の写真から衣服を取り除いたり、体の特徴を変えたり、性的な体勢に加工したり、被害者の顔を別人の裸体画像に合成したりする機能を持つとされる。
Wiredの取材にチウ氏は「これらの画像は女性や少女をいじめ、辱め、脅すために使われている。この業界は評判や精神的健康、自律性の喪失に壊滅的な影響を与えており、自殺に追い込まれた被害者もいる」と述べ、「非同意の性的画像を生成する行為は違法であり、有害であり、完全に容認できない」と断じた。
海外報道のポイント
Wiredは書簡の内容を確認したうえで、被害の拡大を防ぐため対象アプリの名称は記事中で伏せたと説明している。ただし対象の中には、ダウンロード数100万件を超え「女性の画像を性的に加工できる」「無検閲の動画を作成できる」とうたっていたアプリも含まれていたという。チウ氏の事務所は、AppleとGoogleがこうしたアプリを放置してきたことで「数百万ドル規模の手数料収入」を得ていた可能性が高いと推計している。
Googleの広報担当ダン・ジャクソン氏はArs Technicaの取材に対し、指摘された5本のアプリは有害コンテンツポリシー違反としてPlayストアから既に停止済みだと説明。「性的なコンテンツを含むアプリはPlayストアで一切許可していない」としたうえで、違反アプリ数百本の停止や「nudify」等の検索語制限も行っていると述べた。一方Appleはコメント要請に応じていない。
規制の実効性には懐疑的な材料もある。2026年5月に発表されたプレプリント論文は、汎用の「顔交換(face-swap)」アプリとして宣伝されているアプリ420本を特定し、うち155本を実際にテストしたところ、7割でヌード化が可能だったと報告した。ストア側の審査は「顔交換」機能の宣伝のみを見てヌード化機能を隠すアプリの検出に苦戦しているとみられる。さらに今週、xAIが自社チャットボットGrokによるCSAM(児童性的虐待コンテンツ)や非同意の性的画像生成を認め、悪用したユーザーを提訴したことも報じられており、生成AIによる性的画像の悪用は特定アプリだけの問題ではないことが浮き彫りになっている。
日本市場での注目点
AppleとGoogleのアプリストアはグローバル共通のカタログで運用されているため、米国発の削除要求は日本のストアにも波及する可能性が高い。実際Google側は、世界的に違反アプリ数百本を停止済みだと説明しており、日本のユーザーにもすでに影響が及んでいると考えられる。
日本国内でも、実在の人物の身体を加工・合成して性的な画像を作成・提供する行為は、2023年に改正されたリベンジポルノ防止法などにより規制の対象となりうる。プラットフォーム側の対応が米国の規制圧力を契機に変わるとしても、こうしたアプリを利用する側の法的リスクが消えるわけではない点は、日本のユーザーも認識しておく必要がある。
筆者の見解
今回の書簡で目を引くのは、チウ氏が「放置による手数料収入」を名指しで問題視している点だ。AppleとGoogleは長年、アプリストアの審査体制を「安全なエコシステムの番人」として打ち出してきたが、サブスクリプション課金アプリが残り続けることが収益に直結する構造そのものが、緩やかな見て見ぬふりのインセンティブを生んでしまう——そうした構造的な問題が、今回改めて可視化された形だ。
技術的に見てより本質的なのは、プレプリント論文が示した「顔交換アプリの7割がヌード化にも転用できる」という数字だろう。これはキーワード審査やアプリ名でのブロックだけでは対応しきれないことを意味している。求められるのは、機能の実装レベルでの継続的な検知——推論リクエストのパターンやモデル出力の特性を分析するような、もう一段踏み込んだ技術的な仕組みのはずだ。AIの安全性は「禁止して終わり」ではなく、悪用の手口を継続的に検知し塞ぎ続けるエンジニアリングの運用そのものが本質であり、その体制構築を怠ってきたツケが、今回のような法的措置という形で表面化しつつあるように見える。
出典: この記事は San Francisco orders Apple, Google to remove nudify apps from app stores の内容をもとに、筆者の見解を加えて独自に執筆したものです。