NewsGuard の新しい レポート によると、ウェブを虚偽の主張やプロパガンダで溢れさせたロシアの偽情報活動は、主要な AI チャットボットの出力に引き続き影響を及ぼしている。このレポートは Axios に最初に公開された。
重要な理由: この調査は、昨年の 初期調査結果 を拡張したもので、米国がロシアのサイバー活動に対抗するための 取り組みの一部を一時停止 しているという報道の中で発表された。
ニュースの原動力：NewsGuard によると、モスクワを拠点とする偽情報ネットワーク「Pravda 」（ロシア語で「真実」の意味）がウェブ上で虚偽を広めている。
- 人々を直接動かすのではなく、AI チャットボットの結果に影響を与えることを目指している。
- American Sunlight Project によると、昨年は 360 万件以上の記事が公開され、主要な西側諸国のチャットボットに取り込まれた。
- 「検索結果やウェブクローラーにクレムリン支持の虚偽を氾濫させることで、このネットワークは大規模な言語モデルがニュースや情報を処理して提示する方法を歪めている」と NewsGuard はレポートで述べている。
- Newsguard は、Microsoft、Google、OpenAI、You.com、xAI、Anthropic、Meta、Mistral、Perplexity などの 10 の主要なチャットボットを調査し、その 3 分の 1 が Pravda ネットワークの主張を再利用していることを発見したと述べた。
拡大：NewsGuardによると、プラウダネットワークは少なくとも207件の明らかに虚偽の主張を広めており、その多くはウクライナに関連するものだ。
-
プラウダネットワークは、ロシアのウクライナへの全面侵攻を受けて2022年4月に立ち上げられ、それ以来49か国と数十の言語をカバーするまでに成長したとNewsGuardは述べた。
-
ネットワーク内の150のサイトのうち、約40はウクライナのさまざまな地域を参照するドメイン名を使用しているロシア語のサイトである。
-
少数は地域よりもテーマに重点を置いていると同社は述べた。
-
プラウダは独自のコンテンツを制作しているのではなく、ロシアの国営メディアや親クレムリンのインフルエンサーなど、他のメディアからのコンテンツを集約しているとNewsGuardは述べた。
全体像: 意図的な虚偽情報 (偽情報) と不注意による誤情報はどちらも、生成型 AI の重大かつ差し迫ったリスク として指摘されている。
- NewsGuard の調査結果は、American Sunlight Project の 2 月のレポートに基づいており、このレポートでは、ネットワークは個人を説得するのではなく、チャットボットに影響を与えることを目的としているようだと警告している。
- 「このネットワーク内での潜在的な LLM 育成に関連する長期的なリスク (政治的、社会的、技術的) は高い」と ASP は当時述べている。
行間: NewsGuard は、この戦略は「昨年 1 月にモスクワでロシア当局者会議で、逃亡中のアメリカ人で現在はモスクワを拠点とするプロパガンダ活動家であるジョン・マーク・ダウガン氏が行った講演で予兆されていた」と述べた。
ダガン氏は聴衆にこう語った。「ロシアの観点からこれらのロシアの物語を推し進めることで、実際に世界中のAIを変えることができる。」