オンラインでの偽情報と闘う全国組織によると、女性議員は男性議員よりもディープフェイクポルノの被害者になる可能性が高い。
ディープフェイクは、AI生成の非合意の親密な画像としても知られ、国土安全保障省によると、人工知能または機械学習を使用して、実際には起こらなかった出来事の信憑性のある画像、音声、テキストを作成する。
この研究を担当したワシントンD.C.の組織であるAmerican Sunlight Project、またはASPによると、これらの画像はディープフェイクポルノとも呼 ばれている。
誤報との戦い:フェイクニュース動画に騙されないための方法
ディープフェイクは主に女性をターゲットに
研究者らは、性的なディープフェイクコンテンツに焦点を当てた11のウェブサイトで、米国の議員に関する言及が35,239件あることを発見した。分析中に、チームは、ディープフェイク画像に女性が描かれる可能性は男性よりも70倍高いことを発見した。
この調査結果は、テキサス州に拠点を置く非営利のニュースルーム、The 19thに掲載された。
「この報告書は、悪意のあるAI技術の台頭に対処するための立法措置が緊急に必要であることを強調している」と、American Sunlight Projectは水曜日のニュースリリースで述べた。
ディープフェイクは有名なウェブサイトで発見された
ASP チームはカスタム検索エンジンを使用して、各メンバーのファーストネームとラストネームを 11 の有名なディープフェイク ウェブサイトで検索し、データを収集しました。
チームは「ディープフェイク ポルノ」、「ディープフェイク セレブ」、「ディープフェイク コングレス」などの用語を Google で検索してウェブサイトを見つけました。そこから、各メンバーが受けたヒット数または言及数を記録しました。
ASP 研究チームは、カスタム検索エンジンで各メンバーの名前を検索しました。これには、正式名称、略称、ニックネームが含まれます。
チームによると、ニューヨーク、バージニア、オハイオ、カリフォルニアなど、各地域の議員を検索しました。
研 究者は他に何を発見しましたか?
American Sunlight Project は、26 人の下院議員と上院議員 (女性 25 人、男性 1 人) が現在または過去にこれらのウェブサイトにアクセスしていたことを発見しました。
「これは小さな違いではありません」と ASP はレポートに記しています。 「これは大きな格差だ」
研究者らは、各議員の名前が既知のディープフェイクウェブサイトにどのくらい頻繁に登場しているかを追跡するとともに、年齢、政党、州代表、自己認識する民族性などの要素も調べた。
ASPによると、高齢の議員はそのような画像に登場する可能性がわずかに低い。チームは、代表される政党や州のメンバーとの間に関連性はないと結論付けた。
女性議員のディープフェイクは48時間以内に削除された
ASPは議員らに、議員らの肖像を含むディープフェイクコンテンツについて知らせ、48時間以内に14人の議員を標的としたコンテンツが削除された。
それでも、ランディングページや検索結果ページ、およびGoogleのインデックスリンクには、少なくとも9人の議員が表示されていた。
「これは大きな特権格差を浮き彫りにしている」とASPは記し、すべての女性がコンテンツをこれほど迅速に削除できるリソースを持っているわけではないと付け加えた。
議会で女性のこうした画像が作られているという事実は、より大きな問題の兆候であるとASPは述べ、このようなジェンダーに基づく偽情報や嫌がらせは、世界中の女性の生活をより困難にしていると主張した。
ディープフェイクは違法か？
議会はまだディープフェイクポルノを標的とする法案を可決していないが 、カリフォルニア、フロリダ、ジョージアなどの一部の州では、性的なディープフェイク画像を法律で罰するとする法律を可決している。
議員らは連邦レベルでそのような法案を提出している。
イヴェット・クラーク下院議員（ニューヨーク州民主党）は、2023年9月に下院にディープフェイクの説明責任法案を提出し、他人に嫌がらせをするためにディープフェイクを作成したとして有罪判決を受けた者に対して最大15万ドルの民事罰を科すことを求めた。
マデリン・ディーン下院議員（ペンシルベニア州民主党）とマリア・エルビラ・サラザール下院議員（フロリダ州共和党）も今年、「AIが生成したディープフェイクから個人を連邦政府が保護する」ための法案を提出し、これを「オリジナルを育て、芸術を育み、エンターテインメントを安全に保つ（フェイク禁止）法案」と名付けた。
「AIの普及が進むにつれ、連邦法もそれに追いつかなければならない」とディーン氏は9月のニュースリリースで述べた。「すべての人に自分の声や肖像のデジタルレプリカを管理する明確な連邦権利を与えることで、NO FAKES法はディープフェイクの被害者に力を与えることになる」
NO FAKES法が成立すれば、「2025年1月2日までに、州法や規制の寄せ集めに対する全国的な解決策」が生まれることになる。
クリス・クーン上院議員（デラウェア州民主党）、マーシャ・ブラックバーン上院議員（テネシー州共和党）、エイミー・クロブシャー上院議員（ミネソタ州民主党）、トム・ティリス上院議員（ノースカロライナ州共和党）も上院で法案を提出した。
ASPの研究者らは報告書の中で、この研究は議会がディープフェイクポルノの作成を規制する法案を検討している時期に行われたと述べ、「議員らは第118回議会の閉会前にこれらの法案を可決するよう迅速に動くよう」促している。
この研究の限界は何か？
ASPの研究者らによると、この研究の限界の一部は、研究結果を一般化する能力に影響する。
彼らは、この結果は「ある瞬間のスナップショット」、つまり2024年11月初旬を表しているに過ぎないと指摘している。ASPによると、公開されるディープフェイクコンテンツの数は、追加や削除により変化するという。
もう 1 つの限界は、彼らのデータは各メンバーの名前がディープフェイク ウェブサイトの動画にどのくらい頻繁に登場するかを分析しているが、コンテキストに関する詳細は含まれていないという事実である。
「一般人口における人物の名前の一般的度合いなどの要因も、数値の過大評価や誤った関連付けにつながる可能性がある」と研究者らは書いている。
類似した名前の結果など、関連性のない結果の数を制限するために、研究者らは引用符で囲んだ名前を検索した。検索時に引用符を使用すると、部分的または無関係な参照の可能性は低くなるが、誤検出を完全に排除するわけではないと研究チームは述べた。
最後 に、研究チームは、統計的手法は関連性を認識するのに役立ったが、因果関係を認識するのには役立たなかったと述べた。つまり、ある要因が他の要因を引き起こしたり、増加させたり、減少させたりすることはそれほど簡単ではないということだ。
研究者らは、研究で当局が行ったように 48 時間以内にディープフェイク コンテンツを削除することは特権であり、多くの女性が享受している特権ではないことを繰り返し述べた。
「ASPは第118回議会に対し、ディープフェイクの被害者を保護することを目的とした法案の可決を優先するよう要請する。被害者には国会議員や公職に就く女性だけでなく、議会の資金が不足している未成年者や一般市民も含まれる」と同団体は記した。