イタリアのジョルジャ・メローニ首相は、首相の顔を女優の顔に重ね合わせた捏造ポルノ動画に関する訴訟で、被害者としてサッサリ裁判所に証言するよう召喚された。
現在、サルデーニャ島では、2020年に米国ベースのウェブサイトで操作された動画を配布したとして告発されている父と息子の2人に対する名誉毀損訴訟が進行中である。
訴訟
顔はジョルジャ・メローニのものかもしれないが、体は彼女のものではない。首相を題材にしたディープフェイクポルノ動画は数百万回も視聴され、イタリアの首相は賠償を求めて裁判にかけられることになった。
これらの動画は、それぞれ73歳と40歳のサッサリ出身の父子2人組が作成したとされ、2020年にオンラインにアップロードされた。被告らは名誉毀損で起訴されている。
ジョルジャ・メローニ：イタリア首相、ディープフェイクポルノ動画で損害賠償を求めるhttps://t.co/bBk0AnUXDm
--- BBCニュース（ワールド）（@BBCWorld）2024年3月20日
メローニは、総額10万8000ドルの損害賠償を求めている。政府指導者は、暴力被害を受けた女性たちを支援するため、内務省の国家基金にその金額を寄付すると述べた。「この嘆願は、このような虐待を受けているすべての女性たちへのメッセージであり、ためらわずに通報するよう促すものです」とメローニ氏の弁護士マリア・ジュリア・マロンジウ氏は説明した。 「この金額は象徴的で、被害者の保護を強化することを目的としています。被害者は、多くの場合、無意識のうちにこのような犯罪の犠牲者になる女性です。
その後、モニア・アダミ判事の前での審問が2024年7月2日に予定されています。彼女の弁護士によると、首相の証言は必要です。そして、判事は被害者と日付に同意してそれを命じました。
メローニは最初の犠牲者ではありません
ミシェル・オバマ、スカーレット・ヨハンソン、エマ・ワトソンがこの不穏な傾向の犠牲者になりました。ディープフェイクポルノを作成するプロセスは驚くほど簡単です。ユーザーは顔写真をダウンロードし、ポルノの体にシームレスに貼り付けることができます。俳優。
2019年、オンライン合成メディアの監視を専門とするオランダの企業DeepTraceは、インターネット上で流通しているディープフェイクコンテンツの96％がポルノの性質を持つという驚くべき事実を明らかにした。2023年2月はディープフェイクポルノ素材の制作と配布のピーク月となった。
Metaは、エマ・ワトソンやスカーレット・ヨハンソンなどの有名人の顔を同意なく使用したディープフェイクアプリの広告キャンペーンを展開し、急速に増殖するディープフェイクコンテンツに関する倫理的問題を提起した。 pic.twitter.com/HPcJsVX9DG
--- TheSwaddle (@TheSwaddle) 2023 年 3 月 8 日
この不穏な現象は着実に勢いを増しています。首相や女優を罠にかけるだけではありません。無意識のうちにリベンジポルノやセックス脅迫の被害者となる普通の女性や少女を餌食にしています。 2023年9月初旬、スペインのバダホス市アルメンドラレホの20人の少女たちは、同級生たちが[人工知能（AI）]（https://www.ccn.com/education/glossary/artificial-intelligence-ai/）を搭載したソフトウェアを使って自分たちのディープヌード画像を捏造していたことを[発見]（https://www.cnn.com/2023/09/20/europe/spain-deepfake-images-investigation-scli-intl/index.html）して恐怖を覚えた。
同様の事件は、BikiniOffアプリの登場により ヨーロッパ中で発生している。このアプリは、写真に基づいて人物を事実上脱がせることができる。 2人の人物がこれを悪用し、「ジョーク」を装ってクラスメートの偽のヌード画像を作成し、論争を巻き起こしました。これは、ディープフェイク流行の新たな側面を浮き彫りにしました。
ソーシャルプラットフォームがディープフェイクに対処しようとしています
2020年1月、Metaは、プラットフォーム全体で増殖している操作されたコンテンツに対する姿勢を発表しました。これは、オンラインでのディープフェイクの蔓延に対する直接的な対応でした。Metaは、ユーザー保護への取り組みを強調し、有害なAI改変コンテンツを速やかに削除することを誓いました。
一方、YouTube は AI 生成コンテンツを識別するための新しい ツール を導入しました。これにより、クリエイターは、このテクノロジーで合成された要素を含む動画にフラグを立てることができます。この革新的な機能により、クリエイターはアップロードおよび公開時に「改変された」コンテンツを透明にマークする必要があります。たとえそれが現実に非常に似ている場合でもです。
?速報?
本日より、YouTube はクリエイター スタジオに新しいツールを導入し、リアルなコンテンツが生成 AI を含む改変または合成メディアで作成された場合にクリエイターに開示を求めます。 (ディープフェイクを考えてみてください) pic.twitter.com/Bc1EqZ7UIE
--- vidIQ (@vidIQ) 2024年3月18日
「ディープフェイクの蔓延は、オンラインのプライバシーとセキュリティに重大な懸念をもたらすだけでなく、そのような技術の責任ある利用に関する倫理的な疑問も引き起こします」と、AIの専門家は匿名を条件にCCNに語った。
「AIが進歩し続けるにつれて、その倫理的影響について熟考し、悪用や危害を防ぐために賢明な適用を確実に行うことが不可欠になる。」
「本質的に、メロニ事件はディープフェイクの脅威に正面から立ち向かう緊急の必要性を強調している。そして、デジタル領域で個人のプライバシーとセキュリティを保護するための強力な対策を実施する必要がある」と専門家は付け加えた。