韓国は、学校の写真やソーシャルメディアの自撮り写真、さらには軍隊の顔写真などを使って、女性や女児を無差別にターゲットにした性的に露骨なディープフェイク画像がオンラインで作成・共有される波に揺れている。 22万人を超える参加者を抱えるテレグラムのチャンネルが、人工知能で生成されたポルノ画像の作成と共有に使用されていたと報じられており、この技術への広範な熱狂が招いた暗い結果を世界中に思い起こさせている。
ユーザーは写真をアップロードし、友人、クラスメート、恋人の顔を使った露骨なコンテンツを数秒で作成できる。地元の報道機関による最初の報道を受けて、被害者として名乗り出る女性が増え、テレグラムのチャンネルもさらに増え、問題の本当の規模が明らかになった。被害者の多く は未成年だ。先月末、目の上に白いマスクを着けた抗議者がソウルに集まり、正義を求めた。
怒りが高まる中、韓国の尹錫悦大統領は政府にデジタル虐待を取り締まるよう要請し、当局はこの問題に取り組むためにタスクフォースを結成すると発表した。警察が捜査する中、別の憂慮すべき傾向が浮かび上がった。予備データによると、最近の一連の事件の容疑者の大多数は10代だった。
「単なるいたずらと片付ける人もいるかもしれないが、匿名を盾に技術を悪用した犯罪行為であることは明らかだ」と尹大統領は先月末の閣議で述べ、被害者と加害者の多くが未成年だったことを認めた。
尹大統領の言う通りだ。これは単なるいたずらではなく、この種のデジタル性的暴力の影響は被害者にとって壊滅的なものになり得る。多くの非難がTelegramに向けられているのは当然だ。特にこのスキャンダルが頂点に達しつつあるのと同時に、プラットフォームの最高経営責任者であるパベル・デュロフ氏が逮捕され、自身のアプリ上で行われた児童ポルノの共有を含む犯罪への共謀の疑いでフランスで起訴されているからだ。韓国当局はTelegramは捜査とコンテンツ削除要請に協力していると述べた。
しかし、尹氏の言葉は、一部の人にとっては空虚に聞こえるだろう。なぜなら、尹氏は2022年に、男性を「潜在的な性犯罪者」のように扱っているとして非難した男女平等省の廃止を提案して若い男性有権者の支持を集めて政権に就いたからだ。また、尹氏は、韓国には制度的な性差別は存在しないと主張し、韓国の出生率が低いのはフェミニズムのせいだとほのめかした。一方、女性の収入は男性より約30％低く、先進国で男女賃金格差が最も大きい。共働き世帯でも、家事や育児の責任は女性が最も重くのしかかる。
また、最近のAIツールの登場でディープフェイクの露骨な画像の生成がはるかに容易になる以前から、擁護団体はデジタル性犯罪の急増に注目していたが、これには通常、同意のない親密な画像や隠しカメラが関係している。
韓国の女性たちが、先進国の女性たちと同様に、子どもを持たないことを選択する理由は数多くある。労働力への参加率の上昇や、子育ての負担の不均衡などだ。フェミニズムを非難するよりも、この山のような深刻な問題のデータを見るほうが有益かもしれない。皮肉なことに、これらの画像を拡散している主要なテレグラムグループの1つには、約22万7000人の会員がいると報じられている。これは、昨年生まれた赤ちゃんの数とほぼ同数だ。
韓国の女性 たちは、抗議活動や活動を通じてこの問題を大胆に明るみに出しており、これは世界中の人々に影響を与えている危機に変化をもたらす第一歩だ。他の管轄区域と比較して、韓国はディープフェイクポルノの規制に関しても先進的だ。実際に、配布目的で画像を作成した罪で有罪判決を受けた者には最高5年の懲役と罰金を含む法律が施行されている。米国では、連邦法が議員の間で超党派の支持を集めているが、依然として議会での審議は遅々として進んでいない。
規制は重要だが、韓国の事例は、このような広範囲にわたる問題の執行がいかに難しいか、またそもそもこのようなコンテンツがいかに簡単に作成され共有されるかを明らかにしている。法律を拡大して、このような素材の所持を違法にすることは役立つかもしれない。しかし、それでも被害者は、自分たちの生活を一変させたコンテンツを誰が作成したかをデジタルで追跡するという大きな責任を負わされる。
テレグラムのCEOが最近逮捕されたことは、テクノロジー企業に、自社のプラットフォーム上で起こっている被害に対する責任を負わせようとする世界的な機運が高まっていることを示すものだ。これは正しい方向への一歩であり、より多くの規制当局がこれらの強力な企業に責任を転嫁するにつれて、業界主導の解決策が増えることが歓迎されるだろう。大学や研究センターでは、AIによる画像操作から保護するための有望なツールを開発しています。しかし、AIを開発する業界から責任あるAIの展開を確実にするために十分なリソー スが割かれていません。
テクノロジー企業には、積極的な解決策を考え出す責任をさらに負わせる必要があります。 多くのテクノロジー大手は近年、幅広いコスト削減の中で倫理的で責任あるAIチームを撤退させています。しかし、女性や少女の尊厳は利益のために犠牲にされるべきものではありません。
現在、この危機の震源地は韓国です。しかし、これはテイラー・スウィフトのような有名人から、ソウルからニュージャージーまでの中学生まで、誰にでも影響を与える可能性がある世界的な問題です。テクノロジー業界は、これ以上責任を回避し続けることはできません。