ハリケーン・ヘレンによる壊滅的な被害の画像がオンラインで拡散し始めた後、ボートの上で子犬を抱きかかえて泣いている子供の画像も拡散した。この画像を掲載したX（旧Twitter）の投稿の一部は、何百万回も閲覧された。
この投稿は、バイデン政権の災害対応を批判したい共和党員を含む多くのユーザーから感情的な反応を引き起こした。しかし、他のユーザーは、この画像がAI生成ツールで作成された可能性が高いという明らかな兆候をすぐに指摘した。たとえば、一部のAI画像生成ツールに共通する奇形の手足やぼやけなどである。
今回の選挙サイクルでは、このようなAI生成合成画像がソーシャルメディアプラットフォームで急増しており、政治的に敏感なニュースイベントの後によく見られる。オンラインプラットフォームや選挙を注意深く見ている人々は、これらの画像は党派的な物語を広める手段であり、事実はしばしば無関係であると言う。
ローリングストーンによると、Xユーザーがボートに乗っている子供の画像はおそらくAI生成であるとコミュニティノートに追加した後、マイク・リー上院議員(ユタ州共和党)など、画像を共有した一部の人々はそれに関する投稿を削除した。
しかし、画像の由来が合成であることが明らかにされた後も、他の人々は主張を強めた。「この写真がどこから来たのかは分からないし、正直言って、それは問題ではない。」 ジョージア州選出の共和党全国委員会メンバー、エイミー・クレマー は、X について次のように書いている。
「これは一種の政治プロパガンダで、候補者への関心と支持を示す手段であり、ファンダムのようなスタイルに近い」と、最近オンライン インフルエンサーに関する本を執筆したジョージタウン大学マコート公共政策大学院の教授、ルネ・ディレスタ氏は言う。「政治陣営はそれを取り上げ、リツイートし、宣伝することができ、会話に参加している、あるいはジョークに参加しているように見える」
洪水の水面からかろうじて上にいる屋根の上にいる動物を描いた、おそらく AI によって作成された他の画像も、ハリケーン ヘレンとミルトン 後に広まった。トランプ前大統領と副大統領候補の JD ヴァンスが、オハイオ州スプリングフィールドのハイチ移民がペットや野生動物を食べているという根拠のない主張を広めた後、トランプが猫やアヒルを抱きしめる AI 生成画像が、共和党支持者に人気の X などのソーシャル メディア プラットフォームに溢れた。
生成 AI は、支持者がオンラインでキャンペーンと交流するためのもう 1 つのツールだとディレスタ氏は言う。「安価で、簡単で、面白いので、なぜ使わないのか?」
画像における真実と事実
合成画像を残すという決断を擁護する同じ投稿で、クレマー氏は「これは人々が経験しているトラウマと痛みの象徴だ」とも書いている。
事実とより深い真実という考えの分離は、西洋哲学にも反映されていると、アラバマ大学でオンライン ニュース砂漠と政治コミュニケーションを研究するマシュー バーニッジ教授は言う。「カント、キルケゴール、ヘーゲルの著作を遡って掘り下げてみると、自由や崇高さ、あるいはそのような概念と関連づけられることが多い、ある種のより深い真実があるという考えがある」。
はっきり言って、政治家に対する個々のファクトチェックが積み重なると、有権者の政治家に対する感情が変わる可能性があることが研究で示されている。ある研究は、ファクトチェックによってオーストラリア人の政治家に対する感情が変わ ったことを示した。しかし別の研究は、トランプ氏に関するファクトチェックによって、個々の事実に対するアメリカ人の信念は変わったものの、トランプ氏に対するアメリカ人の見方は変わらなかったことを示した。
ミネソタ大学の健康コミュニケーション研究者エミリー・ヴラガ氏は、画像のファクトチェックはテキストよりも難しい場合があると述べた。 「オンラインの画像に関しては、人々が本物と偽物を見分けるのが非常に難しいことを示す 研究 がたくさんあります」とヴラガ氏は述べ、「これは ChatGPT 以前から当てはまっていました」と語った。
目を引く視覚画像は、人々が見ているものを処理する時間がないうちに感情を呼び起こす可能性がある。研究者チームは、ワクチンの針を描いた Pinterest の投稿 を調査した。そこには、特大の針と明るい色の液体が描かれた誤解を招く画像が含まれていた。
「針ははるかに小さいです。これは非常に説得力のある訂正ではありません」とヴラガ氏は述べた。「これは、ワクチンが不自然で危険であるという大きな物語の一部です。」
AI が生成した超リアルで不気味な画像の多くは、視聴者にとって事実とフィクションの間のグレーゾーンにあるかもしれない。ポップスターのテイラー・スウィフトがトランプ氏を支持する写真のようにリアルな画像は、よく見ると明らかにスウィフトではないが、一見似ていることが それを見た人々に衝撃を与えたと、ニューヨーク大学の美術史家アラ・マージャン氏は述べた。「誰かがトランプ氏を支持する漫画にテイラー・スウィフトを描いていたとしても、スキャンダルにはならなかっただろう」
ポップスターは、AI が生成した画像と「誤報」を、カマラ・ハリス副大統領を大統領として支持する理由の 1 つとして挙げた。
金銭に動かされ、AI のゴミがオンライン空間を圧倒
AI 画像は、ニュース業界が縮小し、テクノロジー プラットフォームがニュースの優先順位を下げたため、従来のニュース メディアが残したスペースを部分的に埋めることにもなった。「誰がそのスペースに参入しているのか? プロパガンダ主義者だ」とバーンリッジ氏は言う。「プロパガンダはニュースとしてではなく、ライフスタイル コンテンツを通じて他の方法で浸透することが多い」
政治に触発された画像は、ソーシャル メディア プラットフォーム上の AI 生成画像のほんの一部にすぎない。研究者は AI 生成のケーキ、キッチン、海から浮かび上がるエビのようなイエス像を発見した。トラフィックを競う Web サイトにつながるものもあれば、閲覧者から個人情報や金銭を搾取しようとするものもあった。
404 Media の調査によると、発展途上国の人々が、AI が生成した画像を使ってトレンド投稿をする方法を他の人に教え、Facebook から人気コンテンツの作成料をもらっているという。支払額は、地元の一般的な月収 よりも高額になることもある。こうしたコンテンツファームが作成した画像の多くは、強い、時には愛国的な感情を呼び起こした。写実的な画像もあれば、より芸術的な画像もあった。
政治に関連した AI 生成画像の中でも特に目立ったものの 1 つは、X のオーナーである イーロン・マスク によって宣伝された。その画像には、赤い制服を着て帽子に鎌と槌をつけたハリスに似た人物が描かれていた。
元 Twitter 社員で、非党派の非営利団体 OSET Institute で選挙への信頼に焦点を当てているエディ・ペレス氏は、この画像はハリス氏を非米国人として描写することを意図していると述べた。 「カマラ・ハリスと彼女の政党が大統領選挙に勝つ正当な方法はないというメッセージだ」
このような画像は政治的二極化を煽っており、ペレス氏は選挙結果に対する人々の信頼を損なう可能性があると述べた。共和党は数か月間、民主党がさまざまな策略でトランプ氏から選挙を盗む可能性が高いと示唆してきた。
「その戦略は、非常に多くの異なる方法と様式で実行されています。ジェネレーティブAIは、いわばツールキット内のさまざまなツールの1つにすぎません。それが単独で悪い、または他の多くのものよりも悪いと思いますか？いいえ。それはそれが無害であることを意味しますか？いいえ」とペレス氏は述べた。