技術の悪用スピードに対し法整備が追いついていないと指摘されてきたディープフェイク問題ですが、2026年に入り、司法と立法の両面で急速な引き締めが行われています。
日本国内では、女性アイドルや一般人のSNS写真をAI脱衣ツールで加工し、有料会員サイトやオンラインストレージで販売・配布していた作成者が、名誉毀損罪およびわいせつ電磁的記録等送信頒布の疑いで相次いで逮捕されています。「AIが作ったものだから自分の責任ではない」という弁明は警察や裁判所において一切通用せず、押収されたPCやスマートフォンのログから身元が特定され、実刑判決や重い罰金刑が下される事例が急増しています。
海外に目を向けると、欧州連合（EU）の「AI法（AI Act）」が全面適用期を迎え、ディープフェイク画像にはAI生成であることを明示する透かし（ウォーターマーク）やメタデータの埋め込みが義務付けられました。米国でも、被害者が作成者および配信プラットフォームに対して直接損害賠償を請求できる連邦法や州法が整備され、違法ツールの運営者に対する巨額の制裁金やサイト閉鎖命令が日常化しています。
