AppleとGoogle、AIヌード化アプリ削除をサンフランシスコ市から要求
サンフランシスコ市当局が、AppleとGoogleに対し、同意のない性的ディープフェイクを作るAI「ヌード化」アプリをストアから削除するよう求めました。問題は個別アプリの掲載だけでなく、App StoreやGoogle Playの審査がAI生成画像の入口をどこまで止めるかに移っています。
市当局はAppleとGoogleに削除を要求
WIREDによると、サンフランシスコ市当局はAppleとGoogleに書簡を送り、同意のない性的ディープフェイクを作るAIアプリをアプリストアから排除するよう求めました。対象は、人物の写真をアップロードし、衣服を脱がせたような画像を生成する「nudify」系アプリです。
この種のアプリは、Webで見つけた危険なツールを自分で探して使う段階から、スマートフォンのストアで入手できるアプリへ近づいています。だから今回の焦点は、AI画像生成の悪用そのものだけではありません。AppleとGoogleが、検索、ランキング、課金、更新、年齢制限を含む配布面としてどこまで責任を負うかです。
両社の返答は「調査」と「措置済み」
WIREDは、Appleが同社ポリシーに反する可能性のあるアプリを調査していると答え、Googleは指摘されたアプリを削除し、同様の違反を監視していると説明したと報じています。AppleのApp Review Guidelinesは、性的またはポルノ的なコンテンツ、嫌がらせ、他者を傷つける内容を審査対象にしています。Google Playの不適切コンテンツポリシーも、性的コンテンツや搾取的な内容を禁止しています。
ただし、ルールがあることと、生成AIアプリを審査で見抜けることは別です。アプリ名や説明文がぼかされ、実際の出力がサーバー側で変わる場合、審査時の見た目だけでは判断しにくい。市当局の要求は、公開後の通報や調査まで含めた運用を問うものです。
| 観点 | 確認した内容 | 読者にとっての意味 |
|---|---|---|
| 要求元 | サンフランシスコ市当局がAppleとGoogleへ削除を要求 | スマートフォンのストア審査がAI被害の入口として見られている |
| 対象 | 同意のない性的ディープフェイクを作るAI「ヌード化」アプリ | 画像編集アプリのように見えても、出力内容が被害を生む |
| プラットフォーム | Appleは調査、Googleは指摘アプリを削除したとWIREDが報道 | 公開前審査だけでなく、公開後の監視と停止速度が問われる |
App Store審査は生成AIの配布UIになった
生成AIでは、危険な機能がひとつの画像編集ボタンとして見えることがあります。ユーザーにとっては「写真を選ぶ」「生成する」という単純な操作でも、対象者の同意がない性的画像を作れば被害は現実に残ります。ストアの審査は、アプリの品質確認ではなく、AI機能を社会へ配る前の入口管理になっています。
AppleはApp Storeを安全な配布面として売ってきました。今回のような要求が続けば、AIアプリの審査は、説明文の禁止語や年齢レーティングだけでなく、生成できる内容、通報後の停止速度、同じ開発者が別名で戻る経路まで見る必要があります。これは生成AI時代のプラットフォーム責任であり、スマートフォンのインターフェイスを誰が守るのかという話でもあります。
関連記事
今回の要求は、AIアプリを「問題があれば削除する」段階から、ストアに置く前に何を生成できるかを審査する段階へ押し戻しています。App StoreとGoogle Playは、単なる配布棚ではなく、生成AIの危険な操作を日常アプリの形に変えるかどうかを決める入口です。