関連インシデント
フロリダ州知事ロン・デサンティスが2024年の大統領選から撤退すると発表する動画がソーシャルメディアで広まっているが、もちろんこれはディープフェイク、つまり人工知能によって作成された動画だ。
この動画はYouTubeの風刺作家C3PMemeによって作成され、その後Xなどのプラットフォームに投稿されたと報じられている。
2024年---ディープフェイク選挙
このような動画がソーシャルメディアに登場したのは今回が初めてではないし、来年の総選挙を控えている今、これが最後になることはまずないだろう。しかし、一部のアメリカ人がこのような創作物に騙される可能性があることを思い起こさせる不穏な事実であり、すべての選挙陣営は このような誤報に正面から対処するために特に警戒する必要がある。
「これまでは、オタクたちがお互いに技術力を見せびらかす作品ばかりでした。楽しいものでした」とメリーランド大学のコンピューターサイエンス准教授、ジム・パーティロ博士は警告した。
「デサンティス知事の発表を偽ったこのディープフェイクは、別のレベルにまで達しています」とパーティロは説明した。「合成ビデオの製造における技術的専門知識だけでなく、優れた政治的手腕も反映しています。これを作った人は、デサンティス知事が共和党予備選から撤退するというメッセージはほぼ即座に暴露されることを知っていましたが、それでも、問題から注意をそらす本当の話題を作り出しています。」
誤報のパーフェクトストーム
テクノロジーは向上し、問題はさらに悪化するだけです。それは敗北宣言のスピーチだけに限りません。AI は候補者を悪く見せるために使用され、その過程で、一見悪い行動の実際のクリップが信じられなくなる可能性があります。
不利な状況に陥った候補者は、証拠を「偽物」として却下することがほぼ確実だ。真実が意味をなさなくなるほどだ！
「来年の選挙に向けて、ディープフェイクの動画や音声がさらに増えるだろう」と、Pund-ITのテクノロジー業界アナリスト、チャールズ・キング氏は付け加えた。「こうしたものを作るのに必要なツールやシステムはすぐに手に入る。同様に重要なのは、米国の現在の政治情勢があまりにも分裂し醜悪なため、両陣営に大勢の人々がいて、他者について最悪のことを信じる用意ができていることだ」
AI生成動画とソ ーシャルメディアの融合により、こうした誤報や偽情報が作成され、大衆に急速に広まる可能性がある。一方で、これに対抗する同様のツールはないかもしれない。プラットフォーム側もほとんど意欲がないかもしれない。
「最大の危険は、過去に偽情報を拡散するために使われたインターネットプラットフォームの多くが、今日では偽情報を抑制する関心、能力、意志を持っていないように見えることだ」とキング氏は示唆した。 「おそらく、今後数か月で状況は変わるだろう。そうでなければ、すでに極めて分裂的な選挙戦のように見えるこの状況は、ほとんどの人が想像する以上に悪化する可能性がある」
選挙陣営はディープフェイクを受け入れるのか？
ソーシャルメディアが政治家に広く受け入れられていることはすでに明らかであり、今年初めにはデサンティス陣営が、元大統領ドナルド・トランプがアンソニー・ファウチを抱きしめるAI操作の動画まで公開した。
選挙陣営は、これらの画像は明らかに偽造であるとし、トランプが流布したミームと比較したと、6月に[ニューヨーク・タイムズ]が報じた。
今週、その標的となったのはデサンティス氏だった。
新たに投稿された動画は、いわゆる「不気味の谷」に陥っており、あまり正しくないように見えるが、こうした誤情報は、勢いを増している選挙運動を頓挫させる恐れがある。ディープフェイクは、通常の選挙運動の策略をはるかに超える。
「政治コンサルタントはこれを『話題作り』と呼び、スレッドは独り歩きするだろう」とパーティロ氏は続けた。「この台本がトランプ前大統領の創作なのか （明らかにそう聞こえるように作られている）、それとも混乱を起こそうとする別のグループの卑劣な策略なのか、人々は議論する機会が尽きない。この件で、心理作戦チームが明らかに報いを受けた」
残念ながら、今後もこのような動画を目にすることになりそうだ！