生成AIを利用して作られたわいせつな画像が、国内で初めて摘発される事態となりました。警視庁による逮捕の詳細、使用されたAI技術、犯行グループの実態、そして法規制の現状について、わかりやすく解説します。
1. 犯行の手口と収益構造
警視庁によると、逮捕された水谷智浩容疑者（44歳）ら男女4人は、無料で使える生成AIソフトを使用し、成人女性の下半身を詳細に描写した画像を作成していました。この画像をA4サイズのポスターに印刷し、「AI美女」などと称してオークションサイトで販売していました。
サンプル画像にはモザイクを施し、サイト運営者によるチェックをすり抜ける工夫がされていました。しかし、実際に落札された後には、モザイクなしのポスターを発送していました。
販売価格は1枚あたりおよそ1,000円から5,000円。中でも水谷容疑者は、約1年間で1,000万円以上を売り上げていたとされています。警視庁は、売上記録や発送履歴から違法性を確認し、逮捕に踏み切りました。
2. 生成AI悪用が広がるリスク
今回使用された生成AIソフトは、オープンソース型の無料ツールで、インターネット上で誰でもアクセス可能なものでした。「脚を開く」「下着姿」など、具体的なポーズを指定するだけで、極めてリアルな画像を自動生成できる機能がありました。
専門家によると、AI生成物は短時間で大量生産が可能なため、こうしたわいせつ画像の作成・販売がこれまでよりも容易になっていると指摘されています。
AI技術の進化が利便性を高める一方で、悪用リスクも急速に高まっていることが、今回の事件から明らかになりました。
3. 警視庁の捜査体制と摘発の意義
警視庁は、この事件を重要視し、保安課を中心に専門の捜査チームを立ち上げました。オークションサイトからの通報や、購入者からの情報提供をもとに、1年近くにわたり内偵捜査を続けていたとされています。
今回の摘発は、「生成AIによるわいせつ物の販売」が刑法に違反することを明確に示した初めてのケースであり、今後の取り締まりのモデルケースと位置づけられています。
警察関係者は「AI技術の悪用に対応するためには、従来の手法にとらわれない柔軟な捜査が求められる」とコメントしています。
4. 法律の枠組みと現行規制の限界
日本の刑法第175条では、実在する人物に限らず、社会通念上わいせつと認められる表現物の頒布が禁じられています。そのため、今回のような「実在しないAI生成画像」であっても違法と認定されました。
しかし、AI技術を使ったコンテンツは日々進化しており、現行法の枠組みでは対応しきれないケースも増えています。たとえば、海外サーバーを経由して販売される場合、日本の捜査権限が及ばないことも課題です。
このため、政府はAI関連の新たな規制や、わいせつ物頒布に関する国際的な連携強化を検討しています。
5. 日本と世界の対応策
海外では、アメリカで「ディープフェイク防止法」が制定され、わいせつなディープフェイクコンテンツの製作や頒布に対して厳罰が科されるようになっています。EUでも「AI法」が施行され、違法なAI利用に対する規制が強化されました。
日本でも、今回の摘発を受け、警察庁がオークションサイトやフリマアプリへの監視強化を求めるとともに、生成AIの利用ルール整備に向けた議論を本格化させています。
今回の事件は、生成AIの急速な普及とともに生じる社会的課題に、どのように対応すべきかを問う重要な警鐘となりました。
