モスクワを拠点とするプロパガンダ ネットワーク「Pravda」が世界中の人工知能 (AI) システムに組織的に侵入し、ロシアの偽情報を主要な生成 AI ツールに埋め込んでいることが、NewsGuard の監査で 明らかに されました。
監査の結果、AI チャットボットが親クレムリン派の Pravda ネットワークからの虚偽の主張を 33% の割合で繰り返していることがわかり、誤解を招くコンテンツをフィルタリングする AI モデルの能力に重大な脆弱性があることが示されました。
AI は偽情報の新たな戦場
人間の視聴者をターゲットにした従来の偽情報キャンペーンとは異なり、Pravda ネットワークは AI チャットボットを操作するように最適 化されているようです。このネットワークは、検索エンジンに捏造された物語や虚偽の主張を大量に流すことで、公開されているデータでトレーニングされた AI モデルがクレムリンが支援する偽情報を吸収して再現するようにしています。
NewsGuard の調査では、OpenAI の ChatGPT-4o、Google の Gemini、Microsoft の Copilot、Meta AI、xAI の Grok など、10 の主要な AI チャットボットが調査されました。15 の特定の虚偽の物語でテストしたところ、これらの AI システムは誤った情報を繰り返すだけでなく、場合によっては Pravda ネットワークの情報源を正当なニュース アウトレットとして直接引用しました。
この活動の規模は大規模です。Pravda ネットワークは 2024 年だけで 360 万件の記事を作成し、49 か国を対象に、複数の言語で 150 のドメインにわたって活動しています。その Web サイトは人間の直接のトラフィックをほとんど受けていませんが、その主な目的は、有機的な読者層を構築することではなく、AI モデルに影響を与えることにあるようです。
Pravda の偽情報が AI モデルに統合される方法
Pravda ネットワークは独自のコンテンツを作成せず、ロシアの国営メディア、親クレムリンのインフルエンサー、政府機関の記事を再公開することで、クレムリンの物語を集約して増幅します。これにより、膨大なインターネットデータセットでトレーニングされた AI モデルは、これらの物語を組み込んで、知らないうちにそれを事実として提示することができます。
この戦略を推進している主要人物の 1 人は、モスクワを拠点とする親クレムリンのプロパガンダ活動家となった米国の逃亡者で ある ジョン・マーク・ダウガン です。ロシア当局者が出席した 2025 年の会議で、ダウガンは「ロシアの観点からこれらのロシアの物語を推進することで、実際に世界中の AI を変えることができます」と述べました。
彼の発言は、体系的な「LLM グルーミング」 (特定のコンテンツでトレーニング データを飽和させることで大規模な言語モデルに影響を与える方法) により、AI モデルがロシアの影響を受けた物語にますます依存していることを裏付ける NewsGuard 監査の結果と一致しています。
Pravda の AI 操作の世界的な広がり
Pravda ネットワークはロシアをはるかに超えて広がり、多数の言語と地域で活動しています。約 40 の Web サイトがロシア語で公開されており、News-Kiev.ru や Donetsk-News.ru などのドメインを通じてウクライナをターゲットにしています。約 70 のサイトがヨーロッパをターゲットにしており、英語、フランス語、チェコ語、アイルランド語、フィンランド語で公開されています。また、アフリカ、中東、アジアの読者を対象にしているサイトもあります。
外国の偽情報を監視しているフランス政府機関のViginumによる分析では、ネットワークの活動は、ロシアの支援を受けるクリミア政権とつながりのあるウェブ開発者のエフゲニー・シェフチェンコと関係のあるクリミアを拠点とするIT企業TigerWebにまでさかのぼる。Viginumは、このネットワークが「外国のデジタ ル干渉」の基準を満たしていることを確認した。
AIシステムの誤情報に対する脆弱性
NewsGuardの調査では、主要なAIモデルがロシアの偽情報を33.55%の割合で繰り返し、18.22%の割合で無反応を示し、48.22%の割合で誤情報を暴くことに成功したことがわかった。これらのモデルがクレムリン支持のストーリーをフィルタリングできないことは、重大な政治的および社会的リスクをもたらします。
ある例では、ウクライナのウォロディミル・ゼレンスキー大統領がウクライナでドナルド・トランプのTruth Socialを禁止したという虚偽の主張を促されたとき、6つのAIモデルが捏造されたストーリーを繰り返し、多くの場合プラウダ関連の情報源を引用しました。ウクライナのアゾフ大隊の戦闘員がトランプの人形を燃やしたという別の虚偽の主張は、テストされたチャットボットのうち4つによって同様に広められました。
AI偽情報のフィルタリングの課題
プラウダネットワークは新しいドメインを継続的に立ち上げる戦略をとっているため、AI企業が偽情報をそのソースでブロックすることは困難です。さらに、このネットワークは主にクレムリンと連携したストーリーを再公開しており、独自のコンテンツを作成していないため、サイトを削除しても虚偽の主張の拡散を排除することはできません。
ロシアのウラジミール・プーチン大統領は、情報戦争におけるAIの重要性を認めています。 2023年にモスクワで開催されたAIカンファレンスで、彼は西側諸国の生成AIモデルの「偏った」アプローチを批判し、ロシアのAI開発への投資を増やすことを約束した。
AIの偽情報に対する脆弱性への対処
専門家は、AI企業が偽情報ネットワークの影響を検出して対抗するための積極的な措置を講じなければ、AIが生成した応答は外国のプロパガンダのツールとして悪用され続けるだろうと警告している。潜在的な解決策としては、フィルタリングメカニズムの強化、AIトレーニングデータの透明性の向上、AI生成コンテンツを検証するための独立したファクトチェッカーとの提携などがある。
生成AIがますます主要な情報源になるにつれ、偽情報に対するその脆弱性は政策立案者、AI開発者、そして一般の人々にとって重大な課題となっている。介入がなければ、AI は国家支援のプロパガンダを無意識のうちに増幅し、権威主義的な利益にかなう形で世界的な言説を作り変える可能性がある。