技術の進化は、エンターテインメントの枠を超えて深刻な法的・治安上の懸念を生み出している。特に、悪意ある人物が第三者の顔を無断で合成するディープフェイクの拡散は、個人の尊厳を脅かす深刻な社会問題だ。
さらに深刻なのはセキュリティへの影響である。最新のレタッチ技術や顔合成技術によって顔の幾何学的な特徴点までもが改変されると、駅や空港、銀行の本人確認などで導入されている顔認証システムが誤作動を起こしたり、突破されたりするリスクが高まる。警視庁サイバー犯罪対策課も、こうした画像生成AIを悪用したなりすまし犯罪やサイバーテロの手口に対して強い警鐘を鳴らしており、法整備と検知技術の強化を急いでいる。
