ワシントン --- アレド高校の生徒、エリストン・ベリーさんの1年生は、10月にクラスメートが人工知能プログラムを使って彼女と友人の無邪気な写真を「ディープフェイク」ヌードに変え、その画像をソーシャルメディアアプリのスナップチャットに投稿したことにより、悪夢と化した。
「これらの写真が公開されると、学校に行くのが嫌になり、キャンパスに足を踏み入れることさえ不安になりました」と、今年初めに15歳になったエリストンさんは火曜日、ディープフェイクを取り締まる超党派の法案を発表する連邦議会の記者会見で語った。
クラスメートが学校を去ったことでエリストンさんは授業に出席することに自信を持てるようになったが、「これらの写真が再び浮上するのではないかという恐れは常にある」と彼女は語った。
この経験から、エリストンさんと母親のアンナ・マクアダムスさんは、本物そっくりのヌード写真を作成できるプログラムで作成されたものも含め、同意のない親密な画像の共有を取り締まるよう議員に働きかける支持者になった。
彼女たちは火曜日に行われた記者会見で、テッド・クルーズ上院議員と自分たちの体験を語った。クルーズ上院議員は、コンピューターで生成されたリアルな写真や実在の人物を描いた動画など、合意のない親密な画像を公開したり、公開すると脅したりすることを犯罪とする法案を発表した。
テキサス州の共和党議員の法案では、スナップチャットなどのアプリやウェブサイトに対し、被害者からの要請があれば48時間以内に画像を削除することも義務付ける。連邦取引委員会がこの義務を執行することになる。
「14歳で、学校に登校したら、クラスメートが偽物で詐欺の露骨な写真を見たと思っているところを想像してみてください。写真は本物ではないかもしれませんが、痛みと屈辱は本物です」とクルーズ上院議員は語った。「多くの若者にとって、それは人生を永遠に変えてしまいます。」
クルーズ議員の提案を支持する人々は、ほぼすべての州に、同意のない親密な画像の公開から人々を保護する法律があり、その多くはディープフェイクを明確に扱っていると述べた。しかし、罰則は州によって異なり、被害者がウェブサイトから画像を削除してもらうのに苦労することが多いと述べた。
連邦議会は2022年に、被害者が素材を公開した者を訴える民事訴訟原因を創設する法律を可決したが、そのような訴訟を起こすには費用と時間がかかる可能性がある。
他の議員も独自の提案を行っている。
[米国ディック・ダービン上院議員（民主党、イリノイ州）は最近、被害者がディープフェイク画像を制作した者や配布目的で所持している者を訴える道筋を作る超党派法案を全会一致で可決しようとした。
シンシア・ラミス上院議員（共和党、ワイオミング州）は、この法案は範囲が広すぎるとして反対した。彼女は火曜日の記者会見でクルーズ氏に同席し、同氏の提案を支持した。
クルーズ氏は、同法案は同意のない親密な画像に対処することを目的とした他の法案を補完するように設計されていると述べた。この法案には、スナップチャットなどの企業に48時間以内に画像を削除するプロセスを作成するという、初めての要件が含まれている。
クルーズ氏は、法案を支持する12人の上院議員からなる超党派グループを称賛した。その半数は民主党員だ。
マクアダムズ氏は、娘の同級生がソーシャルメディアプラットフォームから写真をダウンロードし、信じられないほどリアルな画像を作成するプログラムにかけたと語った。
「これらの画像は児童ポルノです」と同氏は述べた。「これらの少女たちは14歳でした。彼女たちの純潔はその日奪われました。」
同氏は、スナップチャットに写真を削除するよう何ヶ月も試みたと語った。クルーズ氏は、同氏が苦情を申し立てた後、スナップチャットは先週削除したと述べ、同社に行動を起こさせるのに議員の力は必要ないと述べた。
スナッ プチャットはアレド氏の写真の取り扱いについてコメントを控えた。
同社は、自社のプラットフォームにはポルノ、ディープフェイク、いじめ、嫌がらせを禁止するポリシーがあると述べている。
マクアダムス氏とクルーズ氏は、広く報道されたテイラー・スウィフトのAIフェイクヌードを例に挙げ、この国際的なポップスターは自身の影響力を使って画像を削除させたと述べた。
「私たちがテイラー・スウィフトだったら、すぐに撤去されていたでしょう」とマクアダムス氏は述べた。「この法案は、私たちにこれまでなかった声を与えてくれるでしょう。」
マクアダムス氏はまた、このような状況をカバーするために教育委員会に行動規範を更新するよう求めた。
「どんなレベルでもこれを阻止できれば」と彼女は述べた。「それが、私たちの目標です。それは、ひどいことを誰かのために少しでも良くすることです。」
彼女はまた、州レベルでの行動を求めている。
パーカー郡のジェフ・スウェイン地方検事は電子メールで、アレド高校の画像を作成した人物は少年院内で「制裁」を受けたが、少年院の審理は秘密であるため、氏名、罪状、刑罰は公表できないと述べた。
スウェイン氏は、テキサス州法で「ディープフェイク」に言及されているのは違法な動画の制作または配布のみであり、画像には適用されないと述べた。テキサス州議会はまた、州の児童ポ ルノ法を、子供の肖像を含むように編集された画像にも適用するように拡大した。
「この条項には、フォトショップのような従来のソフトウェアで編集された画像だけでなく、人工知能を使用して編集された画像も含まれます」とスウェイン氏は述べた。「ディープフェイク法と児童ポルノ修正条項は比較的新しいため、私たちは引き続き法執行機関と協力して、これらの条項の相互作用について教育を行っています。」
マクアダムス氏は、エリストンさんはいつも陽気で外向的な「社交的な蝶」だったが、事件後は中心となる友人グループとより密接につながっていると述べた。
エリストンさんは、写真がいつか大学進学や就職に影響するのではないかと心配しているとマクアダムス氏は述べた。
エリストンさんは、法案が前進することを望んでいると述べた。
「私は誰にもこのような経験をしてほしくありませんし、学生がこのような経験をしなくて済むような何かを創りたいと考えています」と彼女は述べた。