共和党上院議員による新たな攻撃広告は、チャック・シューマー上院議員が政府閉鎖について実際に述べた発言を、民主党上院少数党院内総務のAIディープフェイクとして使用している。
全米共和党上院委員会が金曜日にXとYouTubeに投稿した30秒の動画は、多くの観測者から警戒感を招き、政治の新たな境界線を越え、AI生成のディープフェイク攻撃広告が氾濫する可能性があると警告した。
Xに「シューマー閉鎖3週目：『毎日が私たちにとって良くなる』」とキャプションが付けられたこの動画では、AI生成のシューマー議員がこれらの発言を繰り返し、ニヤリと笑っている。動画は、シューマー議員が微笑むシーンで終わり、 ナレーターが「シューマー閉鎖はアメリカ全土で事態を悪化させており、民主党はそれを喜んでいる」と語る場面で終わる。
「私たちにとって、毎日がより良い方向へ向かっている」という言葉は、シューマー氏が10月9日付の政府閉鎖に関する記事で政治サイトパンチボウル・ニュースに語った言葉の一部である。シューマー氏は続けて、「これは、私たちがずっと前からこのことについて考えてきたことであり、9月30日の財政問題が医療問題に焦点となることを知っていて、それに備えてきたからだ…彼らの理論は、脅迫し、騙せば、1、2日で屈服するというものだ」と述べた。
しかし、元の記事にはシューマー氏の声明のテキストのみが掲載され、動画や音声は掲載されていなかった。
この広告を発表したNRSCのプレスリリースでは、この広告はシューマー氏の発言を「視覚化」したものと説明されており、「一部人工知能ソフトウェアを用いて作成され、AIに関する免責事項が含まれている」とされています。
シューマー氏の偽動画には、NRSCのロゴと「AI生成」という文字が小さな透明な透かしとして右下隅に表示されています。 YouTubeでは、この動画には「改変または合成コンテンツ」のラベルが付けられ、「音声または映像は大幅に編集またはデジタル生成されています」と記載されています。
NRSCの広報ディレ クター、ジョアンナ・ロドリゲス氏はNPRへのメールで、「これはチャック・シューマー氏自身の言葉です」と述べました。「シューマー氏は自分がこんなことを言ったことを知られたくないと思っていますが、実は知られてしまっています。この動画は、彼が閉鎖をどれほど誇りに思っているかを有権者に見て、聞いてもらうためのものです。」
シューマー氏の事務所はコメント要請に応じませんでした。
たとえこの発言がシューマー議員の実際の発言であったとしても、AIを使って偽の動画を捏造するのは一線を越えていると、カリフォルニア大学バークレー校でメディア操作を研究するハニー・ファリド教授は述べた。
「もしこの発言を使いたかったのであれば、よく行われているように、シューマー議員の画像にこの発言を重ねればよかった。シューマー議員のディープフェイクを作ることと、同じことだと合理的に主張することはできない」と同教授は述べた。
さらにファリド教授は、動画の右下にある免責事項は「特にほとんどのユーザーがソーシャルメディアの投稿を悲観的にスクロールしている状況では、特に明確で自明な開示ではない」と述べた。
NRSCの動画は、右派系出版物の記者を含むジャーナリストやソーシャルメディア上のコメント投稿者からも批判された。
「シューマー氏の発言はAI生成の動画で、右下隅に開示されているが、我々は恐ろしい新世界の入り口に立っている」と、ワシントン・フリー・ビーコンの政治記者、ジョン・レヴィン氏はXに投稿した。
「NRSCは広告にAIをますます活用するよ うになってきたが、対立候補の偽動画にまでAIを使うのは初めてだ。隅にAIに関する小さな開示情報があるとはいえ、これは危険な道だ」と、ワシントン・エグザミナーの議会記者、ラムジー・タッチベリー氏はXに投稿した。
批判が相次ぐ中、NRSCのロドリゲス氏は自身のXアカウントに「AIは今ここにあり、消えることはない。適応して勝つか、真珠のような輝きを放って負けるかだ」と投稿した。
共和党がAIを使ってシューマー氏や他の民主党議員になりすましたのは今回が初めてではない。政府閉鎖前夜、トランプ大統領はTruth Socialに「もう誰も民主党を好きじゃない」とシューマー氏が発言したとされる、AIが生成したと思われる、罵詈雑言を散りばめた動画を投稿した。動画には、下院少数党院内総務のハキーム・ジェフリーズ氏も漫画風のソンブレロをかぶり、口ひげを生やしている姿が映っている。
しかし、NRSCのシューマー氏に関する動画とは異なり、以前の例は偽物であることが容易に見分けられました。
ファリド氏は、政治におけるAIフェイクの蔓延が、腐敗をもたらす可能性があると警告しました。
「私たちの指導者が欺瞞的なディープフェイクを投稿すべきだとは思いませんが、本物のコンテンツを投稿すれば、国民がその信憑性を疑う十分な理由が生じるというリスクも負っています」と彼は述べました。