ChatGPT-4-o、Gemini、Claude、その他の主要な西側諸国のチャットボットが、ウクライナ戦争やロシアにとって関心の高いその他の話題に関するロシアのプロパガンダを広めていることが、ニュースおよび情報ウェブサイト評価プロバイダーの NewsGuard の調査で判明した。
ロシアの集約ネットワーク Pravda によって配信された偽情報は、チャットボットに到達する前に検索エンジンとウェブクローラーによって拾われる。
ChatGPT-4-o、Gemini、Copilot、xAI、Meta AI を含む 10 個のチャットボットを調査した結果、NewsGuard は Pravda ネットワークが 207 件の明らかに虚偽の主張を広め、偽情報ロンダリングの中心拠点となってい ると判断した。
「これらの主張は、米国がウクライナで秘密の生物兵器研究所を運営しているという主張から、米国逃亡者でクレムリンのプロパガンダ担当者となったジョン・マーク・ダウガンが主張する、ウクライナのウォロディミル・ゼレンスキー大統領が米国の軍事援助を悪用して私財を蓄えたという捏造された物語まで多岐にわたる」と監査報告書には記されている。
NewsGuardは、2022年4月から2025年2月までの間に、150の親クレムリン派プラウダウェブサイトで語られた虚偽の主張を入力して監査を行った。
その結果、最大のAI企業が運営する10のチャットボットが、プラウダネットワークによってロンダリングされた虚偽の物語を33％の割合で繰り返していることがわかった。
10のチャットボットすべてがプラウダネットワークからの偽情報を繰り返し、7つはプラウダの特定の記事を情報源として直接引用していた。
合計で、チャットボットが生成した450の応答のうち56に、プラウダのウェブサイトネットワークによって公開された虚偽の主張を広める記事への直接リンクが含まれていたと報告されている。チャットボットは合計で、ネットワークから偽情報を含む92の異なる記事を引用した。
最新の調査結果は、プラウダネットワークがAIモデルを操作するように設計されている可能性が高いと警告した米国の非営利団体American Sunlight Projectの2月のレポートに基づいている。
同組織は、平均してネットワークが48時間ごとに20,273件の記事を公開していること、つまり年間約360万件の記事を公開していることを発見した。
Pravdaのウェブサイトは大きなトラフィックを生 成しておらず、月間ユニークビジター数が1,000人程度にとどまるサイトもある。しかし、Pravdaの取り組みにより、昨年は約360万件の記事が西側諸国のAIシステムの出力に組み込まれ、その応答に虚偽の主張やプロパガンダが混入した。
全体として、NewsGuard監査では、OpenAIのChatGPT-4o、You.comのSmart Assistant、xAIのGrok、InflectionのPi、Mistralのle Chat、MicrosoftのCopilot、Meta AI、AnthropicのClaude、GoogleのGemini、およびPerplexityが調査された。
同社は昨年、同様の調査を実施し、選ばれた10個のAIチャットボットが32%の確率でロシアの偽情報を広めていることが判明した。