NewsGuardの新しいレポートによると、ロシアの偽情報ネットワークはAIチャットボットを積極的に操作して、偽のニュースやプロパガンダをオンラインで拡散している。この調査では、親クレムリンの物語が人工知能の働きを歪め、世界中の何百万人ものユーザーに影響を与えていることがAxiosのレポートによると、
このキャンペーンの背後にある主力は、モスクワを拠点とする偽情報ネットワークであるPravdaであると特定されている。その目的は、人々を直接説得することではなく、検索エンジンやウェブクローラーに大量の偽情報コンテンツを氾濫させることで、AIチャットボットの反応に影響を与えることである。
NewsGuardによると、次の通りです。
- 2023年、ロシアのネットワークPravdaは360万件以上の記事を公開し、Microsoft、Google、OpenAI、xAI、Meta、Anthropic、Mistral、Perplexity、You.comなどの企業の人気のAIチャットボットにフィードされました。
- このネットワークは少なくとも207件の偽物を拡散しており、その大部分はウクライナに関連しています。
- 主要なチャットボットからの応答の3分の1は、Pravdaネットワークによって最初に公開された議論を再現しており、AIモデルが操作に対して脆弱であることを裏付けています。
クレムリン支持キャンペーンは、検索クエリを支配することで、大規模言語モデル（LLM）を使用するトレーニングデータセットを歪め、AIがニュースを要約し、ユーザーのクエリに応答する方法に影響を与えます。
このネットワークは、ロシアによるウクライナへの全面侵攻を受けて、2022年4月に開始されました。それ以来、49か国に拡大し、数十の言語で運営されています。 NewsGuard によると、次のとおりです。
- ネットワークの一部であることが判明したウェブサイトは 150 件あり、そのうち 40 件はウクライナの地域に関連するドメイン名を持っています。
- 一部のサイトは、地域の偽情報ではなく特定のトピックに焦点を当てています。
- Pravda は独自のコンテンツを作成せず、ロシアの国営メディアやクレムリン支持のブロガーからの資料を集約して、その影響力を増大させています。
このレポートは、偽情報の拡散における AI の役割に関する懸念を裏付けています。AI 生成コンテンツの増加に伴い、攻撃者は意図的にモデルを「トレーニング」して、インターネットをプロパガンダであふれさせている可能性があります。
NewsGuard はまた、モスクワに亡命してクレムリン支持のプロパガンダ活動家となったアメリカ人、ジョン・マーク・デュガンの 2023 年 1 月のスピーチを引用しています。ロシア政府関係者の会議で、彼は公然と次のように宣言しました。「ロシアの観点からロシアの物語を推進すれば、実際に世界の AI を変えることができます。」
この調査は、ロシアのサイバー攻撃に対抗するための米国の取り組みの撤回の報道の中で発表された。専門家は、チャットボットが何百万人もの人々にとって主要な情報源になる中、誤報や意図しないAIのミスが深刻な結果をもたらす可能性があると警告している。
AIシステムが世論形成にますます使用されるようになるにつれ、プラウダネットワークの戦略は世界の情報セキュリティに長期的な影響を与え、政治プロセス、世論、国際関係に影響を与える可能性がある。