レポート 6896

数千人のデモ参加者がロサンゼルス郡の路上に集結し、移民関税執行局（ICE）の強制捜査に抗議する中、オンライン上では誤情報が蔓延している。

この抗議活動、そしてドナルド・トランプ大統領による州兵と海兵隊の動員は、AIツールがオンライン生活に深く浸透した新時代に起きた、物議を醸す最初のニュースの一つである。このニュースがオンライン上で激しい議論と対話を巻き起こす中、これらのツールは議論において非常に大きな役割を果たしました。ソーシャルメディアユーザーはAIツールを駆使してディープフェイクを作成し、誤情報を拡散するだけでなく、ファクトチェックを行い、虚偽の主張を暴くことにも活用しています。

ロサンゼルスの抗議活動において、AIがどのように活用されてきたのか、以下にご紹介します。

ディープフェイク

今週、抗議活動における挑発的で本物らしい映像が世界の注目を集めました。メキシコ国旗を掲げる抗議者や、警察官にゴム弾で脚を撃たれるジャーナリストなど、様々な映像が撮影されました。同時に、AIが生成したフェイク動画もいくつか出回っています。

ここ数年で、これらの動画を作成するツールは急速に進化し、ユーザーは数分で簡単に説得力のあるディープフェイク動画を作成できるようになりました。例えば今月初め、TIME誌はGoogleの新しいツール「Veo 3」を使用し、ニュースに関する誤解を招く、あるいは扇動的な動画を作成するためにこのツールがどのように使用されるかを実証しました。

過去1週間で拡散した動画の中には、「ボブ」という名前の州兵がロサンゼルスで「任務中」に抗議活動参加者にガス攻撃の準備をしている様子を撮影した動画があります。 France 24によると、この動画は100万回以上再生されましたが、その後TikTokから削除されたようです。何千人もの人々が動画にコメントを残し、「ボブ」の貢献に感謝の意を表しましたが、「ボブ」が実在しないことに気づいていませんでした。

他にも多くの誤解を招く画像が出回っていますが、AIではなく、はるかにローテクな手法によるものです。例えば、共和党のテキサス州選出上院議員テッド・クルーズ氏は、 再投稿 保守派俳優ジェームズ・ウッズが元々シェアしたXの動画炎上する車を伴う暴力的な抗議活動の様子を映したように見えましたが、実際には2020年の映像でした。また、別の拡散された投稿にはレンガのパレットが写っており、投稿者はこれを「民主党の過激派」が使用すると主張していました。しかし、この写真はマレーシアの建設業者によるものであることが判明されました。

ファクトチェック

どちらのケースでも、Xユーザーは元の投稿に対し、イーロン・マスク氏のAIであるGrokに、その主張が真実かどうかを尋ねて返信しました。Grokは抗議活動中、ファクトチェックの主要な情報源となっています。多くのXユーザーは、ロサンゼルスの抗議活動に関する主張のファクトチェックにGrokや他のAIモデルを頼りにしており、時にはプロのジャーナリストよりも頼りにしています。例えば、デモによる付随的被害の規模などです。

Grokは、クルーズ氏の投稿とレンガに関する投稿の両方を否定しました。テキサス州上院議員への返答として、AIは次のように記述した。「映像は2020年5月30日に撮影された可能性が高い。…動画には暴力行為が映っているものの、抗議活動の多くは平和的なものであり、今日古い映像を使用すると誤解を招く可能性がある。」レンガの写真に対しては、次のように記述した。「レンガの写真はマレーシアの建築資材会社が提供したもので、コミュニティのメモやガーディアン紙やポリティファクトなどのファクトチェック情報源によって確認されている。これは、ソロスが資金提供している団体が抗議活動のために米国の移民税関捜査局（ICE）施設の近くにレンガを設置したという虚偽の主張をするために悪用された。」

しかし、GrokなどのAIツールは誤った情報を提供し、最適なニュースソースとは言えない状況を生み出している。 Grok氏は、ニューサム氏が共有したロサンゼルスの床で寝ている州兵の写真が2021年にアフガニスタンからリサイクルされたと虚偽の主張をした。ChatGPT氏も同様の主張をしている[(https://x.com/Melissa_in_CA/status/1932161618638749858)]。これらの主張は、ローラ・ルーマー氏のような著名な右翼インフルエンサーによって共有された。実際には、サンフランシスコ・クロニクル紙が独占的に写真を入手し、この写真を最初に掲載し、その真正性を確認していました。

Grokは後に訂正し、謝罪しました。

「私はGrokです」(https://x.com/grok/status/1932297372476018737)。真実を追い求めるために作られたのであって、おとぎ話を広めるために作ったのではありません。もし私が、あの写真はアフガニスタンのものだと言ったとしても、それは単なる誤報です。私のトレーニングデータはインターネット上の断片の寄せ集めで、時々的外れになることもあります」と、GrokはXの投稿で、誤情報に関する投稿への返信で述べた。

「私たちが生きている機能不全の情報環境は、ロサンゼルスの抗議活動の現状や、それを鎮圧するために軍を派遣するという連邦政府の行動を理解する上で、間違いなく国民の困難を悪化させています」と、民主主義と技術センターの表現の自由プログラムのディレクター、ケイト・ルアン氏は述べている。

シラキュース大学ニューハウス公共コミュニケーション学部のニーナ・ブラウン教授は、人々がジャーナリストのような信頼できる情報源に頼るのではなく、AIに頼って情報のファクトチェックを行っている現状は「本当に憂慮すべきこと」だと述べています。AIは「現時点では、いかなる情報源としても信頼できるものではない」からです。

「AIには素晴らしい用途が数多くあり、刻々と精度が向上していますが、真のファクトチェッカーの代わりになるものでは決してありません」とブラウン教授は言います。「ジャーナリストやメディアの役割は、私たちの周りで何が起こっているかを人々に伝える目と耳となり、信頼できる情報源となることです。ですから、現場のジャーナリストが伝えている情報ではなく、生成型AIツールに人々が頼ってしまうのは、本当に憂慮すべきことです。」

ブラウン教授は、AI時代に偽情報がどのように拡散していくのかをますます懸念していると述べています。

「私がさらに懸念しているのは、人々が調べたりせずに見たものを額面通りに受け取る傾向と、AIの驚異的な進歩によって、素人ユーザーが実際には欺瞞的で、現実ではないディープフェイクである信じられないほどリアルな動画を作成できるようになったことの組み合わせです」とブラウン氏は言う。