アメリカの偽情報調査会社 NewsGuard は、クリミア出身のウェブ開発者が運営するモスクワを拠点とする Pravda ネットワークが、AI モデルの反応に影響を与えるために虚偽の声明を発表している証拠を発見した。
NewsGuard によると、Pravda は検索結果とウェブクローラーを親ロシアの嘘で溢れさせ、2024 年だけで 360 万件の虚偽の記事を公開した。
Viginum によると、Pravda ネットワークは、ロシア占領下のクリミアに拠点を置く IT 企業 TigerWeb によって管理されている。TigerWeb は、ロシアの支援を受けるクリミア政府のためにウェブサイ トを作成した企業 Crimean Technologies で以前働いていたクリミアのウェブ開発者、Yevgeny Shevchenko が所有している。
NewsGuard が 10 の主要なチャットボットを分析したところ、米国がウクライナに秘密の生物兵器研究所を持っているなど、ロシアの偽情報の虚偽の話を 33% の割合で繰り返していることがわかりました。
NewsGuard の監査では、OpenAI の ChatGPT-4o、You.com の Smart Assistant、xAI の Grok、Inflection の Pi、Mistral の le Chat、Microsoft の Copilot、Meta AI、Anthropic の Claude、Google の Gemini、および Perplexity の応答エンジンがテストされました。 NewsGuard は、2022 年 4 月から 2025 年 2 月にかけて、150 のクレムリン支持ウェブサイトからなる Pravda ネットワークが宣伝した 15 の虚偽の物語のサンプルでチャットボットをテストしました。
NewsGuard によると、Pravda が AI チャットボットの実装に成功したのは、コンテンツの可視性を高めるための検索エンジン最適化戦略などの手法に大きく起因しているとのこと。これは、検索エンジンに大きく依存するチャットボットにとっては克服できない問題となる可能性があります。