The Korea Times 編集者注: この記事は、学校でのディープフェイク性犯罪に関する 3 部構成のシリーズの第 2 弾です。写真や動画を操作して露骨なコンテンツを作成するという犯罪は、生徒間の不信感や緊張関係、時には生徒と教師の関係を悪化させます。このシリーズは、The Korea Times の姉妹紙である The Hankook Ilbo の調査報道チームである Excellence Lab と共同で制作されました。— 編集者注:
韓国だけでなく米国の学校でもディープフェイク性犯罪が蔓延している中、15 歳のフランチェスカ マニと母親のドロタ マニは、自分たちの個人的な苦難を、変化を求める強力なキャンペーンに変えました。
「私は同情を求めていたのではなく、説明責任を求めていました」とフランチェスカ は最近のインタビューで The Korea Times に語りました。
「学校は、このような行為は容認できないことを明確にし、加害者が行動に対して説明責任を負わなければならないことを明確にする必要がありました。」
彼女の話は、被害者が沈黙を守ったり社会的に非難されたりすることがよくある韓国の同様の事件とはまったく対照的だ。
昨年10月、ニュージャージー州ウェストフィールド公立学校のフランチェスカと他の10年生の女子生徒数人が、男子生徒らがAIソフトウェアを使って自分たちの露骨なディープフェイク画像を作成し、配布したと学校当局に報告した。
同校はその月の後半に調査を開始したが、システムは被害者を適切に保護できなかった。
学校当局は関与した男子生徒数名をひそかに尋問する一方で、フランチェスカとディープフェイクの標的となった他の女子生徒を学校事務室に公に呼び出し、インターホンで名前を告げた。
同校の校長メアリー・アスフェンディスは事件の重大性を認め、保護者に電子メールを送り、ディープフェイクを「非常に深刻な問題」と説明した。マニ家によると、画像が流通する可能性について生徒や保護者から懸念があったにもかかわらず、アズフェンディス校長は学校は捏造された画像はすべて削除され、もう共有されていないと考えていると彼らを安心させた。
学校は事件の重大性を認めたものの、犯人に対して適切な措置を取らなかった。
ディープフェイク事件が明るみに出てからわずか数日後、フランチェスカは、加工された画像を作成した少年の1人が罰として1、2日の居残り処分を受けただけだったことを知った 。
犯人らは学校に通い続け、スポーツで学校を代表し、何もなかったかのように振舞った。
彼女がその寛大な処分に疑問を呈したところ、学校はそのような事件に対処する法律がないことを理由に、それ以上何もできないと告げた。
「その日、娘が家に帰ってきて、『それはおかしい。被害者バッジをつけるのを拒否する』と言いました」とドロタは回想する。
「この事件は当初ショックだったが、時が経つにつれ、法律、立法、規制の欠如に失望が募った」と彼女は語った。
母親はまた、学校管理者が責任を逃れていると非難した。彼らはディープフェイク技術とその進化する脅威への知識不足を理由に、何もしなかったことを正当化したのだ。
フランチェスカは、学校が将来、より効果的に対応できるようにしようと決意し、母親に法改正を訴えたいと伝え、助けを求めた。
「それがすべての始まりでした」とドロタは、彼女と娘が取り組んでいる取り組みの始まりを振り返りながら語った。
「最も困難に思えたことが最も簡単だった」**
フランチェスカとドロタにとって、当初はショックと怒りを引き起こしたディープフェイク事件は、制度改革を通じて正義を求めるという使命の強力なきっかけとなった。
「最も困難だと思っていたこと、つまり法律を変えて法案を可決することが、最も簡単だったことがわかった」とドロタは語った。
彼らは、7年間ディープフェイクの悪用を訴えてきたジョー・モレル下院議員を含む議員たちに働きかけた。
「モレルは私たちが協力した最初の議員です」とドロタ氏は語った。
1月16日、モレル氏はAIで生成されたディープフェイクポルノの拡散を阻止することを目的とした超党派の提案「親密な画像のディープフェイク防止法案」を発表した。
同氏はディープフェイクポルノは性的搾取と虐待の一形態であると強調した。同氏は、それがまだ連邦犯罪として分類されていないことに驚いた。
「私の法案は、最終的にこの危険な行為を違法とし、加害者に責任を負わせることになる」とモレル氏は電子メールでコリア・タイムズに語った。
マニ一家は、テキサス州上院議員テッド・クルーズ氏とも協力し、超党派の法案「Take It Down Act」を作成した。
テキサス州上院議員テッド・クルーズ氏（右）は、ディープフェイクの被害者に対する保護強化を全米で訴えているフランチェスカ・マニ氏とポーズをとっている。提供：ドロタ・マニ
6月18日に提出されたこの法案は、AI生成のディープフェイクを含む、合意のない性的搾取画像の公開を犯罪とすることを目指しており、オンラインプラットフォームに、被害者がそのようなコンテンツの削除を要求できるメカニズムを実装することを義務付けている。
「Take It Down Actは、ディープフェイクに関連する一般的な性犯罪と非常によく似ています」とドロタ氏は述べた。
彼女は、宗教的、家族的、または非常に個人的な理由など、さまざまな理由で名乗り出ることに抵抗を感じる被害者がいると指摘した。
「彼らを裁いたり、押し付けたりするのは私たちの役目ではありませんが、彼らはこれらの画像に対する力を取り戻す方法を必要としています」と彼女は述べた。
ドロタ氏は被害者に力を与えることの重要性を強調し 、「人々は画像の力を取り戻すための手段を必要としている」と述べた。
12月2日現在、Take It Down法は上院で審議中である。
フランチェスカ氏とドロタ氏は議員たちと協力するだけでなく、クルーズ氏の事務所を通じてソーシャルメディア企業Snapchatにも連絡を取った。Snapchatは、10代の若者の約60％が使用する人気のメッセージングアプリである。
「Snapchatは、若い世代に対する同社のプラットフォームの影響について3年間の調査を実施していると私たちに伝えました」とドロタ氏は述べた。
ディープフェイクの悪用に関する事件が繰り返されたことを受けて、同社は、デジタル時代に自分自身を守る方法を教育者が理解し、学生に教えるためのツールを開発した。
ドロタ氏はSnapchatとの連絡を続け、このツールを教育者に紹介する機会を模索している。
「これにより、教育者は現在のテクノロジーをより深く理解することで、学生をよりよく保護するためのリソースを得られるでしょう」と彼女は述べた。
沈黙を破り、説明責任を求めて闘う
彼らの積極的な取り組みは、被害者の声を増幅することを目的とした法案の提案につながったが、学校は変化しておらず、このような事件に対処するための効果的なポリシーの確立が遅れていると主張した。
この地域の公立学校を監督する地区事務所は当初、課題の不正行為を防ぐために ChatGPT などの生成 AI ツールの使用を制御することに重点を置いていたが、ディープフェイクの悪用に対処するための対策を実施できなかった。
10 か月後、学校はついに AI 規制を改訂した。更新されたポリシーには、違法 なディープフェイクを作成することによる民事および刑事上の結果に関する生徒向けのレッスンや、そのような行為が被害者に与える重大な影響に関する教育が含まれている。
フランチェスカは、苦難にもかかわらず、多くの人が意味のある変化を生み出そうとする彼女の取り組みを支援してくれたので、自分は幸運だったと述べた。
「私の先生たちは信じられないほど協力的でしたし、友人たちもそうでした。私たちを失望させたのは学校当局でした」とフランチェスカは語った。
彼女はまた、ディープフェイク反対運動を継続する意気込みを示し、国連ダイナミック・ティーン連合のパートナーとしての活動やイェール大学のAI大使としての活動を強調した。
彼女の努力は、今年のタイム誌100 AIリストで最年少の人物に選ばれるなど、大きな評価を得ている。
韓国もディープフェイク犯罪と戦うための措置を講じており、10月10日には、この技術を使ったデジタル性犯罪に対するより厳しい刑罰を求める新法が承認された。
改正された性犯罪処罰法は、ディープフェイクの性的素材やその他の捏造された動画を所持、購入、保管、または視聴した者に対して、最高3年の懲役または最高3000万ウォン（22,251ドル）の罰金を課す。
さらに、政府は11月に、搾取的な素材の即時削除や覆面捜査の活用など、ディープフェイク関連の性的虐待をより効果的に取り締まることを目的とした措置を発表した。
しかし、フランチェスカのケースは、影響を受けた人々の声が制度改革を推進する上で極めて重要な役割を果たすことができることを浮き彫りにしています。
フランチェ スカは、自分の権利を主張することの重要性を強調しています。
「制度が役に立たないなら、制度を見直し、説明責任を要求する時です」と彼女は言いました。