従来のアイコラは熟練した画像編集の技術を要したが、AI生成技術の登場がその構造を根本から変えた。現在では「ディープフェイク」と呼ばれる技術を使えば、専門知識がなくても数分で精巧な合成画像や動画を生成できる。声優アイコラもこの波から無縁ではない。
特に問題なのが、生成されたコンテンツの「リアリティ」だ。かつての粗い合成画像とは異なり、AIが生成する画像は一見しただけでは本物と区別がつかないレベルに達している。これがSNS上での拡散速度を加速させ、被害者の精神的苦痛を激化させる。
複数の声優事務所が近年、声明を出してAI生成コンテンツへの懸念を表明しているが、技術の進化に法整備が追いつかない現状は続いている。EUでは2024年に施行されたAI規制法（AI Act）で、ディープフェイクの開示義務が定められたが、日本においては同様の包括的規制はまだ存在しない。
