クリステン・ベルが初めて知ったのは、夫で俳優のダックス・シェパードが撮影したディープフェイクポルノ動画がネット上にアップされていたことだ。動画では、彼女の顔がポルノ俳優の体に加工されている。
「ただショックでした」とベルは語った。「自分が搾取されているなんて、考えられない」
これは有名人だけに起きているわけではない。オーストラリアのパースで最近法律を学んだノエル・マーティンは、ソーシャルメディアでシェアした写真を誰かが盗み、まず彼女のヌード画像にフォトショップで加工し、次にディープフェイク動画を作成したことを知った。
ディープフェイクはしばしば政治的な脅威として描かれる。政治家が実際には発言していないコメントを偽動画で伝えることだ。しかし 、最近のレポートで、研究グループDeeptraceは、ネット上で見つかったディープフェイクの96%がポルノであることを突き止めた。これらの動画のほぼすべてが女性を撮影したもので、ほぼすべてが本人の同意なしに作られている。
「ディープフェイク技術の進歩に伴う課題については、多くの議論がなされています」とマーティン氏は語った。「しかし、議論で見落とされがちなのは、個人に現在どのような影響があるかということです。数年後でも、数か月後でもありません。今です。」
これらの動画で起きているのは、特殊な種類のデジタル操作です。ソーシャルメディアで使用していた古い顔交換フィルターとは異なります。これらのツールを使用すると、自分の顔を友人の頭に載せることができますが、顔の特徴と表情の両方を転送するため、依然としてコントロールできます。
ディープフェイクは異なります。顔の特徴だけを取り出して、他の人の表情で顔を動かすことができます。それがディープフェイクが非常に侵入的である理由です。作成者は被害者の顔のコントロールを奪い、彼女が決して望んでいないことのために顔を使用します。そうすることで、女性に対する性的屈辱の長い歴史に貢献しています。
この動画とVoxのYouTube動画をすべてご覧いただけます。また、Open Sourced Reporting Networkに参加して、データ、プライバシー、アルゴリズム、AIの本当の影響について報告するのを手伝ってください。