悪意のある中傷、無作法な侮辱、そして脅迫的な中傷は、何世紀にもわたってアメリカ政治の一部となってきました。容赦のない戦術が蔓延するこの新時代において、辛辣な言葉はより残忍になり、広告も、競争相手に勝つためなら、たとえ攻撃が人為的なものであっても、何でもありです。
ジョージア州の米国上院選挙で新たに掲載された政治 広告が、選挙における人工知能（AI）の利用を巡る懸念を引き起こしています。マイク・コリンズ下院議員の陣営が、ジョン・オソフ上院議員が農家を嘲笑し、政府閉鎖を擁護するディープフェイク動画を公開したためです。
オソフは、これらの発言は一切していません。
先週ソーシャルメディアに投稿されたこの動画は、人工知能（AI）を用いて作成され、コンピューターで生成された音声で、オソフ氏が閉鎖を支持し、「農場はインスタグラムでしか見たことがない」と主張する様子が収録されている。この広告には、ジョージア州法や連邦法に違反しないよう、「この動画はAI生成です」という小さな免責事項が画面に表示される。
この広告は、政治的説得における新興技術の責任ある利用、そして真実と捏造の境界線が曖昧になった時に何が起こるのかという、より広範な議論を巻き起こしている。
この広告をめぐって陣営が対立
ジョージア州共和党は、この動画を正当な政治風刺だと擁護した。
ジョージア州共和党のジョシュ・マックーン委員長は、党は「最先端技術の創造的な活用を支持する」と述べ、民主党は「政権を失うことを恐れている」と非難した。
マックーン委員長はCBSニュース・アトランタへの声明で、「この広告は明らかにAI生成の風刺であると明記されていた」と述べた。 「欺瞞を目的としたディープフェイクだという主張は、ただの最新の必死の言い訳に過ぎない」
オソフ陣営はこれに異議を唱え、この広告は有権者を意図的にミスリードしようとするものだと述べた。現職候補のオソフ氏は、今回の選挙期間中はこの技術を使用しないことを誓約している。
オソフ陣営の広報担当者は声明で、「候補者がディープフェイクを使って対立候補の発言を捏造する必要があるのは、自分だけでは勝てないと考えている場合だけだ。ジョージア州民は嘘をつく人を快く思わない」と述べた。
コリンズ陣営は、AIツールの使用を継続する計画だと述べた。
「テクノロジーが進化し、有権者にリーチし、コミュニケーションをとる新たな機会が生まれるにつれ、コリンズ陣営は、従来のメディアによる偏った報道を打破し、有権者に直接メッセージを届ける新たな戦術と戦略を積極的に採用していく」と、同陣営は声明で述べた。
地元民主党はこの動きを強く非難した。ジョージア州民主党の上級コミュニケーションアドバイザー、デボン・クルーズ氏は、「ディープフェイク動画で有権者を欺くのではなく、誠実さの低いマイク・コリンズ下院議員は、ジョージア州民の健康保険料を倍増することを支持する理由を説明すべきだ」と述べた。
マイク・コリンズ下院議員は、来年の中間選挙でジョン・オソフ上院議員の議席を争う共和党議員の一人である。
専門家は、国民が何が真実かを見分けるのに苦労する可能性があると警告
AIと自動化の研究者で専門家のパトリック・ディックス博士は、CBSニュース・アトランタに対し、ディープフェイクはもはや未来の脅威ではなく、今まさに現実のものであり、選挙運動で既に活用されていると語った。
「今私たちが目にしているものは、2017年に再びやってくると皆に言ったことです」とディックス博士は述べた。「対立候補の音声を、その人と全く同じに作ることができます。人々は一度聞いただけで、それが真実だと思い込んでしまうのです。」
ディックス氏は、危険性は単純だと述べた。ディープフェイクは有権者を欺き、候補者が実際には起こっていない発言や行動をしたと信じ込ませる可能性がある。
「事実ではないことで有権者を動揺させる可能性がある」とディックス氏は述べた。「完全に捏造された動画に基づいて、人々は誰かに投票したり、反対したりする可能性がある」
また、ほとんどのAI生成メディアは追跡可能な出所を残さないため、誰でもディープフェイクを作成し共有することができ、選挙運動側はそれがどこから来たのかさえ把握できない可能性があるとディックス氏は述べた。
ディープフェイク規制は依然として全国的に限定的
ジョージア州の議員は、欺瞞的なAI選挙運動資料を禁止する動きを見せている。 2025年には、SB9と呼ばれる法案が成立し、選挙の90日以内に義務付けられた開示手続きを経ずに、AIが生成した特定の選挙資料を故意に公開することを犯罪とするものです。この法案には、意図や再犯の度合いに応じて罰則が強化される可能性があります。
しかし、ジョージア州は、この技術を規制しようとする州としては、まだ初期段階にあります。2019年には、いくつかの州が、選挙に関連した政治的な欺瞞的なディープフェイクに対処するための法案を可決し始めました。
全米州議会会議によると、2025年 には、少なくとも半数の米国州が、特に選挙におけるディープフェイク、合意のない性的画像、なりすまし行為に対処する法律を制定する予定です。全50州、ワシントンD.C.、プエルトリコ、そしてバージン諸島は昨年、AI関連法案を検討しました。また、38州が約100件のAI関連法案を制定し、2026年にはさらに増えると予想されています。
ディックス氏は、生成型AIの急速な普及により、州は広範な混乱を防ぐため、恒久的な透かしや明確な情報開示など、より厳格な規則が必要になると述べました。
「選挙運動でAIを使用する場合は、有権者に事前に伝えるべきです」とディックス氏は述べました。「今のところ、人々は何が真実なのか分かりません。そして、混乱してしまうと、投票に行かなくなるかもしれません。」
今後の兆し
コリンズ氏の選挙広告は、明確で執行可能な規則がなければ、より多くの選挙運動や外部の関係者がAI生成メディア を利用して有権者に影響を与える可能性があることを示唆しています。
「最終的にはすべての候補者がこうした被害に遭うことになるだろう」とディックス博士は述べた。「強力な規制がなければ、誰もなりすましから逃れられない」
AP通信・NORC公共政策研究センターとシカゴ大学ハリス公共政策大学院が2023年に実施した世論調査によると、10人中6人近く（58%）が、有権者をマイクロターゲティングし、説得力のあるコンテンツを大量生産し、本物そっくりな偽の画像や動画を数秒で生成できるAIツールが、大統領選挙中に虚偽の情報や誤解を招く情報の拡散を助長 すると考えていることが明らかになった。一方、AIは誤情報を減らすと答えたのは6%、ほとんど影響しないと答えたのは約3分の1だった。
AIが生成した政治コンテンツは、2024年の選挙を前にオンラインで広く公開されていた。ドナルド・トランプ大統領は、CNN司会者アンダーソン・クーパーの歪曲された動画など、AIによって操作された動画をフォロワーと共有した。共和党全国委員会は、ジョー・バイデン前大統領が再選を目指すと表明した直後、バイデン前大統領をデジタル加工した広告を公開し、「史上最弱の大統領が再選されたらどうなるだろうか？」というメッセージを添えた。
他にも、バイデン氏がトランスジェンダーを攻撃しているように見える加工動画、図書館で子供たちが悪魔崇拝を学んでいるという偽のAI生成画像、トランプ氏の顔写真が公式公開前に加工された画像などがある。一部のクリエイターはAIコンテンツの出所が偽物であることを認めているが、その拡散ぶりは有権者が直面する課題を浮き彫りにしている。
2026年ジョージア州上院選挙は、AIが選挙運動のルールをいかに急速に変え得るかを示している。有権者は間もなく、加工された画像や音声が飛び交うデジタルの地雷原を突き進み、誰を支持するかだけでなく、何を信じるかを決めなければならないかもしれない。