2020年、韓国当局が若い女性に性的に露骨な動画を有料視聴者向けに作らせていた脅迫団を追及していたとき、当局はソーシャルメディアの暗い隅に浮かんでいる別のものを発見した。他人の顔が粗雑に貼り付けられたポルノ画像だ。
当局は、ディープフェイクポルノの初期の試みをどうしたらよいか分からなかった。最終的に、国会は、ディープフェイクポルノを制作および配布する者を禁止する曖昧な文言の法律を制定した。しかし、AIを使った犯罪の波を防ぐことはできなかった。テクノロジーは今や、同国の女性蔑視的なオンライン文化を新たな深みに導いた。
過去2週間で、韓国国民は、若 い男性や10代の少年たちが、クラスメート、教師、軍の同僚のソーシャルメディア画像（ほとんどが若い女性や少女、未成年を含む）を何百枚も撮影し、ディープフェイクアプリで性的に搾取的な画像や動画クリップを作成するために使用していたことに衝撃を受けた。
彼らは、暗号化メッセージサービスTelegramのチャットルームを通じて素材を拡散しており、メンバー数は22万人に上るところもある。ディープフェイクは通常、被害者の顔と、ポルノから取られた性的に露骨なポーズの体を組み合わせたものだ。捜査官によると、このテクノロジーは非常に洗練されているため、一般の人には偽物だと見分けるのが難しいことが多い。国が脅威への対処に躍起になるなか、専門家は韓国では、新しい技術への熱狂が倫理的影響に関する懸念を上回ることがあると指摘している。
しかし多くの女性にとって、これらのディープフェイクは、韓国に根深い女性蔑視の最新のオンライン表現にすぎない。この文化は今や、女性の性的に屈辱的な画像をオンラインで共有することを楽しいと考える若い男性を生み出している。
「韓国社会は女性を同じ人間として扱っていない」と、被害に遭った何百もの中学校、高校、大学の1つである大学に通う学生のイ・ユジンさんは言う。彼女は、「友人の写真を盗んで性的に屈辱を与えるのがデジタル文化になる前に」政府がもっと対策を講じなかったのはなぜかと疑問を呈した。
オンラインでの性的暴力は世界的に深刻化する問題だが、韓国はその最先端にいる。韓国がディープフェイク問題にうまく対処できるかどうか、またどのように対処できるかは、政 策立案者、学校関係者、法執行機関によって注目されるだろう。
この国には性犯罪の裏側があり、時折表面化している。韓国人が、児童性的虐待画像を掲載する世界最大級のサイトを運営した罪で有罪判決を受けた。K-POPエンターテイナーは、ナイトクラブを通じて売春を幇助した罪で有罪判決を受けた。警察は長年にわたり、スパイカメラポルノと戦ってきた。そして、2020年に捜査された恐喝組織の首謀者は、10代の少女を含む若い女性を誘惑してビデオを制作させ、Telegramのチャットルームでオンラインで販売した罪で懲役40年の刑を宣告された。
使いやすいディープフェイク技術の台頭により、このような性的暴力に陰険な側面が加わった。被害者は、匿名のメッセージや警察からの電話を受けるまで、自分が被害者であることに気付かないことが多い。
「奴隷」「トイレ」「ぼろ布」
プライバシー保護のため名前は伏せられている30歳のディープフェイク被害者にとって、攻撃は2021年にテレグラムで「こんにちは！」という匿名のメッセージから始まった。
その後数時間にわたって、ソーシャルメディアに投稿した家族旅行の写真から取られた彼女の顔が映った卑猥な言葉やディープフェイク画像、動画ク リップが次々と流れた。遺体には「奴隷」「トイレ」「ぼろ布」などの言葉が書かれていた。
4月、彼女は警察から、拘束された人の中にソウル国立大学の元クラスメート2人が含まれていることを知った。名門大学の男性卒業生と共犯者は、元ソウル国立大学の学生12人を含む数十人の女性をディープフェイクポルノで標的にしていた。拘束された男性の1人は先月、懲役5年の判決を受けた。
「私が女性だったからという理由以外、彼らが私をそのような扱いをした理由は思い当たりません」と彼女は語った。「周りに彼らのような人がいるという事実が、私に仲間の人間に対する信頼を失わせました」
彼女は襲撃以来、トラウマに苦しんでいると言う。スマートフォンにメッセージ通知が届いたり、匿名の電話がかかってきたりするたびに、彼女の心臓はドキドキする。
ポップカルチャーが世界中に輸出されている韓国は、ディープフェイクポルノに対して最も脆弱な国となっている。米国のサイバーセキュリティ企業Security Heroが発表した調査「2023年ディープフェイクの現状」によると、世界のディープフェイクの半分以上が韓国人をターゲットにしており、その大半は韓国の歌手や女優を犠牲にしている。大手K-POPエージェンシーはディープフェイクに宣戦布告し、証拠を収集し、作成者や配信者に対して訴訟を起こすと脅していると述べた。
それでも、問題は深刻化している。韓国警察は、1月から7月の間にディープフェイクによる性犯罪が297件報告されたが、そのようなデータが初めて収集された2021年全体では156件だった。
先月、地元の報道機関がテレグラムでのディープフ ェイクの大量トラフィックを暴露したとき、ユン・ソクヨル大統領は政府に「それらを根絶する」よう命じた。ユン大統領の批評家は、2022年の大統領選挙運動中に、彼が韓国に構造的な性別に基づく差別があることを否定し、男女平等省を廃止すると約束したことを指摘した。
今年のディープフェイクの増加に関する報道は、若い女性の間でパニックを引き起こし、その多くがディープフェイクに利用されることを恐れて、ソーシャルメディアアカウントから自撮り写真やその他の個人的な画像を削除した。先月ソウル市教育庁に就任する前は中学校の校長を務めていたチョン・ジンクォン氏は、元校長が卒業アルバムから生徒の写真を削除するかどうかについて議論していたと語った。
「一部の教師はすでに写真の掲載を拒否し、似顔絵に置き換えていた」とチョン氏は語った。
世界で最もインターネットが普及した国の一つである韓国の若者は、幼い頃からテクノロジーに精通している。しかし批評家は、韓国の学校制度は極めて重要な大学入試の準備に重点を置きすぎていて、新しいテクノロジーを倫理的に扱うことを教えられていないと指摘する。
「私たちは試験問題を解く機械を作っている」とチョン氏は語った。「彼らは価値観を学ばない」。
より厳しい法律を求める動き
2019年以来、デジタル性的搾取に関与した200人の若者のカウンセリングを担当してきたソウル市職員のキム・ジヒョン氏は、ディープフェイクを使って元カノに復讐する少年もいたと語り、女子がディープフェイクを使ってクラスメートを追放 するケースもあった。しかし、多くの若者がディープフェイクに惹かれたのは好奇心からだったとキム氏は語った。
チャットルームの運営者はスターバックスのクーポンなどの特典で若者を誘い、知り合いの女性の写真や個人情報を提供するよう求めた。デジタル性犯罪を調査し、被害者に支援を提供してきた政府出資の韓国女性人権研究所のチームリーダー、パク・ソンヘ氏によると、テレグラムのチャンネルの中には「レイプと屈辱の部屋」と呼ばれるものがあり、特定の学校の個人や女性をターゲットにしていたという。
2020年に制定された法律では、性的に露骨な、または虐待的なディープフェイクを配布目的で作成したとして有罪判決を受けた人は、最長5年の懲役刑に処せられる可能性がある。そのようなコンテンツを配布して金銭的な利益を得ようとする者は、最長7年の懲役刑に処せられる可能性がある。しかし、ディープフェイクを購入、保管、または視聴することを禁じる法律はない。
捜査官がディープフェイクのチャットルームにアクセスするために潜入するには裁判所の許可が必要であり、潜入できるのは未成年者が性的虐待を受けたという報告を調査する場合のみである。このプロセスは時間がかかることもある。
「休日にチャットルームを見つけても、裁判所の許可を得る頃にはもうなくなっている」と、警察庁のオンライン犯罪担当上級捜査官ハム・ヨンオク氏は語った。
政府は、性的搾取を目的としたディープフェイクの購入や閲覧に対するより厳しい法律を推進すると約束している。 今月、最近の一連のディープフェイクを捜査している警察は、7人の男性容疑者を拘束したと発表しており、そのうち6人は10代の若者である。
韓国のインターネットではポルノは検閲されているが、人々は仮想プライベートネットワークを使用して規制を回避することができ、ソーシャルメディアチャンネルで禁止を実施することは困難である。警察は、テレグラムがディープフェイクの性犯罪を幇助したかどうか捜査する可能性があると示唆している。先月、テレグラムの創設者パベル・デュロフ氏はフランスで逮捕され、児童性的虐待コンテンツの配信を可能にしたなど、さまざまな罪で起訴された。
テレグラムは声明で、「韓国から報告された利用規約に違反するコンテンツを積極的に削除しており、今後もそうしていく」と述べた。
一方、政府はオンラインプラットフォームに対し、ディープフェイクポルノなどのコンテンツをフィルタリングするためにさらなる対策を講じるよう圧力をかけられている。
「プラットフォームを守るか、子どもや若者を守るかの選択を迫られる時が来た」と京畿大学の法医学心理学教授、イ・スジョン氏は言う。「2024年に今起きると予想される事態は2020年にすでに予言されていたが、その間に私たちは何もしてこなかった」