マーティン・ルーサー・キング牧師の娘バーニスさんは月曜日、選挙日を前に両党が黒人有権者の支持を取り付けている中、この公民権運動指導者が元大統領ドナルド・トランプを称賛する人工的に生成された動画を非難した。
日曜日の夜、MAGA Resourceというトランプ支持のアカウントによってソーシャルネットワークXに投稿されたこの動画は、キング牧師が黒人にトランプへの投票を促し、「他のどの大統領よりも黒人コミュニティのため に尽力した」と主張する虚偽の描写をしている。月曜日遅くまでに、この動画は1,000万回以上再生された。
バーニス・キングは月曜日、Xにこの動画を非難する投稿をし、削除を求めた。「下品で、偽物で、無責任で、父の言うことを全く反映していない」とキングは述べた。「そして、あなたは私たち家族のことを考えていない」
プラットフォーム上でクラウドソーシングによるファクトチェックに貢献しているXユーザーは、月曜日にこの動画投稿にメモを添付し、これを「ディープフェイク」と名付けた。ディープフェイクとは、人工知能で作成された画像、動画、音声を指す用語である。
この偽のAI動画は、ディープフェイクが早くから登場した大統領選の終盤に登場した。1月には、ニューハンプシャー州の有権者が、ジョー・バイデン大統領のディープフェイク音声で、州の予備選挙で投票しないよう呼びかけるロボコールの標的となった。
「私たちは、政治とAIの『壁にスパゲッティを投げる』瞬間にいる。この交差点で、人々はプロパガンダのために新しいことを試すことができる」と、倫理的なハッキング会社ソーシャルプルーフ・セキュリティの最高経営責任者レイチェル・トバックは述べた。 「選挙に影響を与えるためにあらゆる手段を講じる人々が出てくると思う」
1968年に暗殺されたキング牧師の偽動画は、もともと2月にXでRamble Rantsというアカウントを通じて公開された。Ramble Rantsは、トランプ氏を支持するミームを作成するDilley Meme Teamという緩やかに組織されたグループの一部である。
ブレンデン・ディリーは、動画の削除を求めるバーニス・キングの投稿に「2024年へようこそ」とだけ返信した。MAGA Resourceのアカウントはコメントの要請にすぐには返答しなかった。Ramble RantsのアカウントはXに、この動画をディープフェイクとラベル付けしたプラットフォーム上の「うそつき」ファクトチェックのメモは「的を外しており、不要だ」と投稿した。
2024年の選挙の間、AIが生成した誤情報が繰り返し拡散し、AIが民主的なプロセスに与える影響を注視する規制当局や監視団体の注目を集めている。AIの専門家は、このコンテンツが候補者に対する人々の意見や投票箱での選択を変えるのにどれほどの影響を与えたか確信が持てない。
3月、BBCはトランプ氏を支持する黒人を描いたAI生成の偽画像を数十枚発掘した。トランプ氏を支持するXのオーナー、イーロン・マスク氏は7月、バイデン氏の後任を標的にし、Xで、大統領の撤退決定を偽って祝う副大統領カマラ・ハリスのAI生成音声ディープフェイクを共有した。この動画は1億回以上視聴された。
トランプ氏は8月、テイラー・スウィフトのファンが自身の選挙運動を支持するAI生成の偽画像を共有したが、スウィフトはその後ハリス氏を支持する際にこのスタントを引用した。
10州以上米国の州には、政治家に関する欺瞞動画をAIで作成する人を罰する法律があり、国中で政策がまちまちとなっている。バイデン氏の声のディープフェイクを作成したコンサルタントは、9月に連邦通信委員会から600万ドルの罰金を科された。
多くの企業がディープフェイクを見破るツールを発表しているが、その性能は信頼性に欠け、ある調査では、その方法の精度の範囲は82％からわずか25％に及ぶことがわかった。
トバク氏は、キング氏が有権者にトランプ氏に投票するよう促す動画が偽物だと人々は気づくだろうと述べた。しかし、これらの動画は人々の感情を食い物にするために使われる可能性があると付け加えた。
「私たちは今、ディープフェイクが『でも、もしそれが本物だったらどうだろう？』と言うために使われる奇妙な世界に生きています」と彼女は付け加え、「そして…それを党派的な方法で利用しています」