この項目には性的な表現や記述が含まれます。免責事項もお読みください。
フェイクポルノとは、人工知能 (AI) にもとづく人物画像合成の技術であるディープフェイクを使った偽ポルノ動画のこと[1]。 2017年11月2日に、アメリカ合衆国のRedditで「ディープフェイクス (Deepfakes)」というアカウント名を使う匿名利用者が3人の有名女優の偽ポルノ動画を投稿したのが最初である[2]。 制作においてはグーグルの画像検索やストック写真及びYouTubeを使って、性的対象となる有名人のデータを集め、それらを使って一コマごとに既存のポルノ動画の顔を性的対象となる有名人女性に入れ替えるように、人工知能 (AI) のアルゴリズムに学習させる手法が取られている[3]。 Redditでは「同意のないポルノが含まれている」という理由でディープフェイクス (Deepfakes) が投稿した偽ポルノ動画が閲覧できなくなり、最初に偽ポルノ動画を投稿したディープフェイクス (Deepfakes) 本人も姿を消した[3]。 しかし、この際にディープフェイクを用いて偽ポルノ動画を制作するのに必要なプログラムは既に公開され多くの人に共有されていたことがきっかけとなり、自分でディープフェイクを作成できる新しいツールや無料のソフトウェアがインターネット上に出現するようになり、様々な偽ポルノ動画が作成・投稿されるようになった[4]。新しいツールが公開されたことで、プログラミングの知識がそこそこあれば、専門的な深い知識がなくても作成できるようになっている[5]。AIに読み込まれる画像が多ければ多いほど、また学習させる時間が長ければ長いほど動画の質は上り、根気次第で精巧な合成動画ができるようになっている[6][7]。 2018年2月にディープフェイクポルノのサイトが初めて出現した[8]。2021年時点で主だったディープフェイクポルノのサイトの総視聴回数が1億3400万回に上る[8]。 ディープフェイクポルノの性的対象は女性ばかりであり、性的対象が男性のものは見つからない[9]。一方で、ディープフェイクポルノの対象女性については出身地は数十カ国に上り、民族や髪の色も多様である[10]。制作者が有名人の女性のフェイクポルノを制作・投稿して閲覧数を上げる例や、対象女性のポルノ動画を見たい人が制作者に依頼して制作・投稿される例もあり、その場合はフェイクポルノの制作・投稿をした人間に金が入る仕組みになっていることがある[11][12]。また、ネット上で公開されているフェイクポルノは、多くが宣伝用でダイジェスト版の数分間しかなく、本編を視聴したい場合には数千円単位で購入するか有料会員サイトへ登録する必要があることで、フェイクポルノを視聴したい者がフェイクポルノの制作・投稿をした人間やフェイクポルノサイトを運営・管理する者に対価を払う仕組みになっていることがある[13]。 フェイクポルノは初期の頃は注意深く見ていないと本物だと錯覚してしまうものの対象者の口の動きが台詞と合っていないなど目を凝らして動画を数秒以上見ていれば違和感に気づくレベルであったが、技術が進化するにつれて段々と精巧になっている[14][15]。 フェイクポルノが肖像権侵害であることは明白であり名誉や尊厳にも関わってくることだが、フェイクポルノの作成・投稿をされて被害に遭った女性が訴えを起こす例は少ない[16][17]。制作や投稿が国境を超えているために法的手段に訴えても効果について疑問視されていることや、訴えを起こせばかえって注目を集めて視聴者数増加という形でますます被害にあってしまう(ストライサンド効果)ことも、訴えを起こしにくい一因となっている[16][17]。 フェイクポルノは他人が閲覧できる状態にしない限り違法とすることは難しいが、被害者に対する名誉毀損罪やAVメーカーに対する著作権侵害で対応するしかない[7]。
概要