今週、友人から電話がありました。「閉鎖に関するオソフ議員のビデオを見た？」と、彼女は民主党のジョン・オソフ上院議員について尋ねました。ジョージア州選出の民主党議員がオンラインビデオで発言していることに驚きを隠せない様子でした。
彼女が話していたビデオは見たことがありませんでしたが、少し調べてみると、マイク・コリンズ下院議員のキャンペーンXアカウントにオソフ議員の動画が見つかりました。ジャクソン出身の共和党員であるコリンズ議員は、オソフ議員の上院議席をめぐる熾烈な共和党予備選に出馬している3人の候補者の1人です。
「こんにちは。ジョン・オソフ上院議員です。政府閉鎖の継続に投票しました」と彼は言いました。
このビデオは本物らしく見えます。オソフ議員の上院議員公式肖像画から引用されており、スーツの襟には上院議員のピンバッジまでついているので、当然と言えるでしょう。しかし、オソフ議員の発言はあまりにも誇張されているため、このビデオが本物かどうかは完全には分かりません。
実際には、これはコリンズ陣営がオソフ氏のために台本を作成し、AIが生成した音声に乗せて作成した動画です。
「農家に悪影響が出ると言われていますが、私には分かりません。農場はインスタグラムでしか見たことがありません」とAIオソフ氏は言います。「SNAP受給者も。ニューヨークやカリフォルニアの私の募金活動に彼らがいるとは思えないので、誰が気にするでしょうか？」
視聴者には、この動画がAIによって生成されたものであることを示す小さな免責事項が表示されますが、この免責事項は、スマートフォンで動画をクリックして全画面表示し、もう一度クリックして字幕を消した場合にのみ表示されます。
ジョージア州民主党はこの動画を強く非難しました。「ディープフェイク動画で有権者を欺くのではなく、誠実さの欠けるマイク・コリンズ下院議員は、ジョージア州民の健康保険料を倍増させることを支持する理由を説明すべきです」と広報担当者は述べました。
しかし、コリンズ陣営は動画について謝罪せず、今後オソフ氏の発言を動画に改変するのを止める計画も示さなかった。
「テクノロジーが進化し、有権者にリーチし、コミュニケーションをとる新たな機会が生まれるにつれ、コリンズ陣営は、従来のメディア報道の偏りを突き抜け、有権者 に直接メッセージを届ける新たな戦術と戦略を駆使し、最前線に立っていく」と、陣営の広報担当者は述べた。
私はおそらく「偏りのある従来のメディア」なのだろうが、AIで生成された選挙動画が危険な道を転がり落ちていくと考えているのは、私だけではないだろう。
近年、共和党、民主党ともに、今後の危険性について警鐘を鳴らしてきた。オソフ氏自身も2023年の上院規則委員会公聴会で、AIを使えば誰でも「あなたや私たちの誰か、あるいは私たちに挑戦する候補者を、故意に、故意に、極めてリアルに虚偽の描写をし、私たちが決して言わなかった発言を、メディアの消費者には私たちの演説のリアルな記録と区別がつかないようにする」ことができると述べた。
まさに今、私たちはその状況にある。3ヶ月、6ヶ月も先に進めば、オソフ氏のビデオは他者によってさらに操作されるかもしれないし、あるいはオソフ氏、コリンズ氏、そしてジョージア州で選挙に立候補している他の候補者（政党を問わず）に関する偽情報の海の一つに過ぎないかもしれない。
トッド・ジョーンズ州下院議員（共和党、カミング郡選出）とブラッド・トーマス（共和党、チェロキー郡選出）は、ともにコリンズ上院議員を支持している。また、2人は有権者を欺くことを目的としたジョージア州選挙におけるディープフェイクの使用を犯罪化する取り組みの主導者でもある。ジョーンズ氏とトーマス氏が2度提出した法案は、AIコンテンツの明確な開示を義務付け、選挙の60日前にAI動画を禁止する内容となっている。
テクノロジーにあまり詳しくない同僚たちに、これから何が起こるのかを強く印象づけるため、ジョーンズ氏とトーマス氏は独自のディープフェイク動画を作成し、2024年の下院公聴会で再生した。
この動画には、トレントン選出の共和党議員コルトン・ムーア氏が、これまで声高に反対してきたAI関連法案を支持する様子が映っていた。
「AIを使ってコルトン・ムーアに人気のある法案を支持する発言をさせることができるなら、皆さんの誰かに、一度も言ったことのないことを言わせることもできるのです」とAIコルトン・ムーアは言います。「AIディープフェイクを有効かつ合法的な選挙戦略として残すことで生じる結果に対処する覚悟はありますか？」
下院はジョーンズ氏とトーマス氏の法案を2度可決しましたが、上院ではどちらも廃案となりました。
ジョーンズ氏は、憲法修正第1条と言論の自由を守ることが重要であると同時に、議員が速やかに行動を起こし、適切な対策を講じる必要があると述べました。
「有権者は、誰に投票するのかだけでなく、その人が実際に何を信じているのかを知る必要があるのです」と彼は述べました。
アメリカの選挙運動からAIを全面的に禁止することは可能なのでしょうか？ジョージア州の他の選挙活動員から受けた感銘的な反応が示唆するところだとすれば、コリンズ氏がAIで作成したオソフ氏の動画は、AIを活用した選挙活 動の始まりに過ぎない。
ホワイトハウスは有権者の注目を集めるため、AIを駆使して奇抜な動画を頻繁に作成してきた。今後、内容が真実でなくても、より大規模で大胆、そして巧妙なAIフェイク動画を駆使する選挙活動が数多く行われるだろう。
「もう手遅れだと言っている人たちへ。本当にそうなのか？」とジョーンズ氏は述べた。「有権者が投票する前に、真実を知らしめる必要があるため、この点をはっきりさせることが重要だ。」
ジョージア州上院がジョーンズ氏とトーマス氏の非常に堅実な法案を可決するまでは、私たち残りの人々は「買い手は用心」しなければならない。
オソフ氏のような、ソーシャルメディアで「信じられるか？」と疑うような選挙活動動画を見て、友人に「信じられるか？」と尋ねる前に、まず立ち止まって「信じられるか？」と自問自答してみるべきだ。