ロシアの偽情報ネットワークが人気のAIチャットボットに侵入し、数百万人を誤解させる可能性のあるプロパガンダを広めていることが、3月6日にAxiosが報じたNewsGuardの調査で明らかになった。
この驚くべき発見は、米国がロシアのサイバー攻撃に対抗する取り組みを縮小していると報じられている中で起こった。チャットボットがますます主要な情報源になりつつある中、専門家はこの偽情報が危険な結果をもたらす可能性があると警告している。
このキャンペーンの中心にあるのはプラウダ・ネットワークで、検索結果やウェブクローラーにクレムリン支持の物語を氾濫させることでAIシステムを操作している。この戦略はユーザーを直接標的にするのではなく、チャットボットが情報を解釈して提示する方法を歪曲している。
米国を拠点とする研究イニシアチブであるサンライト・プロジェクトによると、2023年だけで360万件以上の操作されたコンテンツが公開され、その多くが西側の主要なチャットボットに流れ込んだ。
「検索結果やウェブクローラーにクレムリン支持の嘘を詰め込むことで、ネットワークは大規模な言語モデルがニュースや情報を処理し配信する方法を歪めている」と報告書は警告した。
ニュースガードは、マイクロソフト、グーグル、OpenAI、You.com、xAI、Anthropic、Meta、Mistral、Perplexityを含む10の主要なAIチャットボットを分析した。3分の1のケースで、これらのプラットフォームはプラウダが推進したロシアの偽情報の物語を繰り返していた。
研究者は207件の意図的な虚偽の主張を発見したが、そのほとんどはウクライナに関連していた。ロシアのウクライナへの全面侵攻後に2022年4月に作成されたプラウダネットワークは、その後49カ国に拡大し、複数の言語でコンテンツを公開しているとニュースガードは報告した。
捜査官らは、ウクライナの地域にリンクされた 40 のドメインを含む、ネットワークに接続された 150 の Web サイトを特定しました。一部のサイトは、地域の偽情報だけでなく特定のトピックに焦点を当てており、プラウダの影響をさらに拡大しています。
興味深いことに、プラウダは独自のコンテンツを作成しません。代わりに、ロシアの国営メディ アやクレムリン支持のブログから資料を集約し、ウェブ上でそれらの物語を増幅します。
AI チャットボットが一般の認識を形成する上でますます重要な役割を果たしている中、このような偽情報キャンペーンの浸透は、世界的な出来事や紛争に関する会話を歪める可能性のある憂慮すべき傾向を強調しています。