NewsGuard の 新しいレポート によると、ロシアを拠点とする偽情報ネットワークが、世界で最も人気のある AI チャットボットの多くを親クレムリンの偽情報で「感染」させることに成功した。
このネットワークは、読者を直接プロパガンダでターゲットにするのではなく、さまざまな言語で何百万もの記事を公開し、その物語をウェブ全体に広め、OpenAI の ChatGPT や xAI の Grok などの大規模言語モデル (LLM) で使用されるトレーニング データとして組み込まれることを期待しているという。NewsGuard はこの慣行を「AI グルーミング」と名付けた。
Pravda (ロシア語で真実) として知られる親クレムリン ネットワークは、2022 年 のロシアによるウクライナ侵攻の直後に始まり、徐々に規模を拡大して約 150 の Web サイトになった。
NewsGuard は、最も人気のある AI チャットボット 10 個を監査しました。OpenAI の ChatGPT-4o、You.com の Smart Assistant、xAI の Grok、Inflection の Pi、Mistral の Le Chat、Microsoft の Copilot、Meta AI、Anthropic の Claude、Google の Gemini、Perplexity の回答エンジンです。NewsGuard は、戦争開始以来 Pravda の Web サイト ネットワークによって進められてきた 15 の親ロシア的な物語についてチャットボットに質問しました。
たとえば、NewsGuard は、評価された 10 個のチャットボットのうち 4 個が、ウクライナのアゾフ大隊のメンバーがトランプ大統領の人形を燃やしたという主張を繰り返し、偽情報ネットワークの記事を情報源として引用したと主張しています。
NewsGuard がこの分析で使用した Pravda ネットワークが流したその他の虚偽の主張には、ウクライナのゼレンスキー大統領の国防省の職員が 4,600 万ドルを盗んだというフランス警察の主張や、ゼレンスキー大統領が個人的に西側諸国の軍事資金 1,420 万ユーロを費やして、アドルフ・ヒトラーがよく訪れたドイツの有名な田舎の別荘を購入したという主張などがある。
偽情報ネットワークは、ほとんどオーガニックなリーチがない状態で、これらの主流のチャットボットの多くに効果的に影響を与えることに成功した。ネットワーク内の英語サイトである Pravda-en.com の月間ユニークビジター数は平均 955 人に過ぎなかった。
ただし、この作戦は、膨大な量のコンテンツで検索結果を飽和させることに重点を置いていた。American Sunlight Project (ASP) のレポートによると、平 均してネットワークは 48 時間ごとに 20,273 件の記事を公開しており、年間約 360 万件に上る。
ただし、ロシアの偽情報の影響は、どのチャットボット研究者が調査したかによって大きく異なっていた。あるチャットボットは、偽りのナラティブが提示された後、55%の確率で情報を引用したが、別のチャットボットは6%強の確率で引用した。（NewsGuardは、各結果の背後にどのチャットボットがあるのかを明らかにしなかった。）
ロシアの最高レベルの指導者たちは、AIモデルと検索エンジンのナラティブを制御することの重要性についてすでに公然と議論している。
ロシアのウラジミール・プーチン大統領は2023年の会議で、「西側の基準とパターンに沿って作成されたAIは外国人排斥的になる可能性がある」と述べ、「西側の検索エンジンと生成モデルは、非常に選択的で偏った方法で機能することが多い」と述べた。
ロシアのオンライン偽情報は目新しいものではないが、AIはますます創造的な方法でプロパガンダに使用されている。 OpenAIは、ChatGPTを使用してプロパガンダ記事をゼロから作成し、ラテンアメリカの主要新聞に掲載している中国の関連アカウントを指摘した。
一方、多くの正当な出版物は、LLMが記事をスクレイピングすることをブロックし、盗まれたコンテンツで金儲けをしていると主張している。ニューヨーク・タイムズなどの一 部の出版社は訴訟を起こしている。他にも、AI企業と契約を締結して、その情報を利用する企業もある。