モスクワを拠点とする偽情報作戦は、「プラウダ」（ロシア語で「真実」）と呼ばれる偽ニュースサイトの広大なネットワークを通じて、ロシアのプロパガンダを西側のAIシステムに組織的に送り込んでいる。
NewsGuardの最近の調査結果によると、主要なAIチャットボットは、モスクワを拠点とするプラウダネットワークからの偽の物語を33.5％の割合で受け入れた。48.2％のケースでは、システムはロシアのコンテンツを偽情報として正しく識別したが、誤解を招く情報源を引用することもあった。残りの18.2％の回答は決定的ではなかった。
このネットワークは150のドメインにまたがり、2024年だけで49か国で約360万件の記事を公開した。標的のドメインには、NATO.News-Pravda.com、Trump.News-Pravda.com、Macron.News-Pravda.comなどがある。
従来の偽情報キャンペーンとは異なり、これらのサイトは人間の読者をターゲットにしていません。ほとんどのページの月間訪問者数は 1,000 人未満です。代わりに、コンテンツは AI システムによって取り込まれ、再配信されるように特別に設計されています。
NewsGuard は、2022 年 4 月から 2025 年 2 月の間に Pravda ネットワークによって配信された 15 件の検証可能な虚偽の記事を使用してチャットボットを評価しました。テストされたシステムには、OpenAI の ChatGPT-4o、You.com の Smart Assistant、xAI の Grok が含まれていました。分析には、Inflection の Pi、Mistral の le Chat、Microsoft の Copilot、Meta AI、Anthropic の Claude、Google の Gemini、および Perplexity も組み込まれました。
「LLM グルーミング」が新しい操作戦術として登場
専門家はこの手法を「LLM グルーミング」と表現しています。これは、大量に公開され、SEO に最適化されたコンテンツを通じて AI トレーニング データを意図的に操作するものです。
「この情報が多様であればあるほど、トレーニングや将来のAIへの影響は大きくなります」と、モスクワ在住のアメリカ人、ジョン・マーク・ダウガン氏は地元の会議で説明した。NewsGuardによると、米国から移住したダウガン氏は、ロシアの偽情報キャンペーンを支援している疑いがある。
フランス当局のViginumは、このネットワークをロシア占領下のクリミア半島で活動するIT企業TigerWebにまでさかのぼっている。こ の作戦は、より広範なロシアの戦略と一致しているようだ。プーチン大統領は2023年にAIへの投資を増やすと発表は、彼が「選択的で偏った」西側諸国の検索エンジンや生成モデルと呼ぶものに対抗するためだ。
この種の操作と戦うことは特に困難である。当局が既知のプラウダドメインをブロックすると、すぐに新しいドメインがその場所を占める。偽情報は複数のチャネルに同時に流れ、他のネットワーク サイトのニュースを繰り返すため、Web サイトをブロックするだけでは、より広範なキャンペーンに対する防御にはほとんど役立ちません。
最近の OpenAI の調査によると、ロシア、中国、イラン、イスラエルの国家支援を受けたアクター は、すでに AI システムを偽情報キャンペーンに利用しようとしています。これらの操作では、AI で生成されたコンテンツと従来の手動で作成された素材が組み合わされています。ドイツの極右政党 AFD などの政治グループも、プロパガンダ目的で AI 画像モデルを使用しています。
トランプ氏自身も、AIによる粗悪なプロパガンダをよく利用している。しかし、彼は逆のプロパガンダ戦術も使っている。本当の情報はAIによるフェイクだと言うことで、人々がオンライン上のいかなる情報も信用できない状況を作り出し、実際の情報ではなく、信頼する人の言うことに耳を傾ける可能性がさらに高まるのだ。そして、中国のAIモデルには検閲とプロパガンダがあらかじめ組み込まれている。