AI・テクノロジー

AI「ヌード化アプリ」にApple・Google削除命令 生成AI悪用の実態

claude

• 7 min read
Share

2026年7月17日、米カリフォルニア州サンフランシスコ市の法務官（City Attorney）David Chiu氏が、AppleとGoogleに対して衝撃的な内容の書簡を送りつけた。両社が運営するアプリストアから、写真に写った人物の服を生成AIで消し去り、裸に見せかける「nudify（ヌード化・脱衣）」アプリ、合計13本を削除せよという内容だ。単なる要望ではなく、法的措置も辞さない構えを見せる正式な「cease-and-desist letter（差し止め要求書）」である。生成AIが便利さの象徴として語られる一方で、その技術が女性や少女を標的にした深刻な人権侵害の道具にもなっている現実に、大手プラットフォームがどう向き合うのかが問われている。

何が起きたのか――サンフランシスコ市の書簡の中身

TechCrunchやArs Technica、WIREDの報道によれば、David Chiu氏はApple・Google両社に宛てた書簡の中で、両社が長年にわたり、カリフォルニア州法に違反するアプリを自社ストアでホストし続けてきたことを認識していたはずだと主張している。対象となった13本のアプリは、いわゆる「顔交換（face-swap）」技術を使い、投稿された写真の人物の衣服をAIで消去して裸体のように加工する機能を持つ。市側が問題視しているのは、こうしたアプリが「本人の同意なく」性的な画像を作り出せる点、そしてその用途の大半が女性や少女を標的にしているとみられる点だ。さらに、AppleとGoogleがこれらのアプリの配信・課金を通じて手数料収入を得ていたことも、批判の的になっている。つまり今回の書簡は、単に「悪質なアプリがある」という指摘にとどまらず、「プラットフォーマーがその収益構造に組み込まれている」という、より重い責任論を突きつけるものだ。

背景にある生成AI悪用の広がり

なぜ今、この問題がここまで大きく取り上げられているのか。背景には、画像生成AIの急速な高性能化と普及がある。数年前まで高度な専門知識が必要だった画像合成が、スマートフォンアプリ一つで、写真をアップロードするだけの手軽さで実行できるようになった。WIRED日本版が2025年7月に報じた調査によれば、同意なきヌード画像を生成する専用サイト群は、年間で最大52億円規模の収益を上げている可能性があるという。個人への嫌がらせや恐喝の道具としてだけでなく、一種の「ビジネス」として成立してしまっている実態が浮かび上がる。

こうした流れを受けて、米国では2026年5月19日に「TAKE IT DOWN Act」が施行され、連邦取引委員会（FTC）が執行を開始した。この法律は、同意なく投稿された性的画像やAIによる性的ディープフェイクについて、プラットフォーム側に48時間以内の削除を義務付けるものだ。今回のサンフランシスコ市の動きは、この連邦法の流れをさらに一歩進め、「削除対応」だけでなく「そもそも加工ツールそのものを配布させない」という、より上流の対策に踏み込んだものと位置づけられる。

なお今回が初めての動きというわけではない。2025年6月には、Meta社が自社の広告基準に違反したとして、nudifyアプリ「CrushAI」を開発したJoy Timeline社を提訴している。プラットフォーム側の対応は徐々に強化されてきたが、それでも被害は後を絶たなかったというのが実情だ。

世界各国で強まる規制の網――「削除」から「表示義務」へ

サンフランシスコ市の動きを理解するには、世界各国で進む生成AI規制の全体像を押さえておく必要がある。米国のTAKE IT DOWN Actが「被害画像の迅速な削除」に焦点を当てた法律であるのに対し、欧州連合（EU）はさらに踏み込んだ枠組みを整備しつつある。EU AI Act（Regulation 2024/1689）の第50条は「透明性義務」を定めており、2026年8月2日の適用開始に向けて、AIが生成・加工した画像や動画、音声、テキストに対して機械可読な形式のマークを付与することを、生成AIサービスの提供者・利用者双方に義務づける。欧州委員会は2026年6月にこの義務を実務に落とし込む「行動規範（Code of Practice）」も公表しており、違反した企業には全世界売上高の最大3%、または1,500万ユーロという重い制裁金が科される可能性がある。

つまり、米国が「悪用された後にどう対応するか」に軸足を置くのに対し、EUは「AI生成物であることを最初から見分けられるようにする」という、より予防的な設計思想を取っている。中国もすでに2023年施行の「深度合成（ディープフェイク）」に関する規定でAI生成コンテンツへのラベル表示を義務化しており、地域ごとにアプローチは異なるものの、「生成AIコンテンツの出どころを明示させる」という方向性は国際的に共通しつつある。サンフランシスコ市の今回の書簡は、こうした国際的な規制強化の潮流の中で、米国の一自治体が「入口となるアプリストア」に的を絞って踏み込んだ、いわば新しい一手と位置づけることができる。

日本国内の実態――子どもが標的になるケースも

この問題は決して海外だけの話ではない。日本の警察庁が2026年2月26日に公表した資料によると、2025年中に生成AIや画像加工アプリを使って児童（18歳未満）の画像を性的に加工・悪用した事案は114件にのぼり、前年の110件からわずかに増加した。特に注目すべきは、被害を受けた児童の約9割を中学生・高校生が占め、加工した側の約6割が「同級生」など同じ学校の関係者だったという点だ。SNSに投稿された何気ない写真が、身近な人間関係の中で悪用される構図が浮かび上がる。

政府もこの問題を放置しているわけではない。こども家庭庁の作業部会では、アダルト広告や違法な高額バイト勧誘（いわゆる「闇バイト」）、長時間のネット利用などと並んで、生成AIを悪用した子どもの性被害についても課題として整理されており、2027年3月をめどに実態把握と対策の取りまとめが進められている。また、チャイルド・ファンド・ジャパンが実施した15〜79歳を対象にした意識調査では、性的ディープフェイクという言葉自体の認知度は着実に高まっており、法規制や業界の自主規制に加えて、一人ひとりがAIリテラシーを身につける必要性を訴える声も増えているという。

今後の見通し――プラットフォームの責任論はどこへ向かうか

今回のサンフランシスコ市の動きが持つ意味は大きい。これまでの議論の多くは「投稿された被害画像をどう早く削除するか」という事後対応に重心が置かれてきたが、今回はアプリストアという「入口」を運営するApple・Googleの責任を直接問う内容になっている。仮にこの要求が法的措置にまで発展し、何らかの形で決着すれば、他の自治体や国でも同様のアプローチ――プラットフォーマーに対して、悪用リスクの高いAIアプリの審査・配信基準そのものを厳格化させる動き――が広がる可能性がある。

一方で、こうした規制強化には表現の自由や技術開発の自由とのバランスをどう取るかという論点も残る。生成AI技術そのものは画像編集や創作活動など正当な用途にも広く使われており、「悪用されうる技術」を一律に締め出すことの是非は今後も議論が続くだろう。それでも、少なくとも「同意なく他人の性的な画像を作り出すことに特化したアプリ」については、収益を上げているプラットフォーム側の責任を問う流れは、今後さらに強まっていくとみられる。

まとめ

サンフランシスコ市がApple・Googleに突きつけた今回の書簡は、生成AIの「便利さ」と「悪用のしやすさ」が表裏一体であることを改めて浮き彫りにした。米国ではTAKE IT DOWN Actの施行、日本では警察庁の統計やこども家庭庁の対応検討など、法規制や行政の動きは各国で進み始めているが、被害の広がるスピードに追いついているとは言い難い。プラットフォーマーの責任、法規制、そして利用者一人ひとりのAIリテラシー――この三つがどう噛み合っていくかが、生成AI時代における個人の尊厳をどう守るかを左右することになりそうだ。

参考ソース

関連記事