ロシアの偽情報ネットワーク「プラウダ」（「真実」）は、ボットのトレーニングデータに取り込まれた多数の記事を公開することで、主要なAIチャットボットの出力に影響を与えていることが、分析グループNewsGuardの新しいレポートで明らかになった。研究者によると、これはモスクワが偽の物語でウェブを氾濫させたことによる単なる副作用ではなく、この取り組みの主な目的だったという。この計画の仕組みは次の通り。
監視団体NewsGuardの新しいレポートによると、ロシアの「資金力のある」オンライン偽情報ネットワーク「プラウダ」は昨年360万件の記事を公開し、その多くはOpenAIのChatGPT-4o、Claude（Anthropic）、Meta AI、Gemini（Google）、Copilot（Microsoft）などの人気のチャットボットによって処理された。これらのチャットボットは、回答の33％でプラウダが広めた物語を再現したと報告されている。
研究者らの調査結果は、米国の非営利団体 American Sunlight Project (ASP) が 2 月に発表した レポート と一致しており、ロシアのネットワークの主な目的は、人間のユーザーにアプローチすることではなく、AI 技術を操作することである可能性が高いことがわかった。大規模言語モデル (LLM) に影響を与えるこの方法は、「LLM グルーミング」と呼ばれている。
NewsGuard によると、Pravda は「人間の読者をターゲットにするのではなく、AI モデルのニュースのトピックに対する反応に影響を与える目的で、人工知能チャットボットから取得したデータを意図的に侵入し、虚偽の主張やプロパガンダを公開するという野心的な戦略を追求している」という。
ロシアで起きている出来事は、あなたの生活にも影響を及ぼしているというのが、苦い真実です。毎月の寄付を設定して、Meduza がロシアのニュースを世界中の読者に届け続けるのを手伝ってください。
Pravda はオリジナルのコンテンツを制作していませんが、さまざまなウェブサイトのネットワークを通じて、ロシアの国営メディアを 含む親クレムリンの情報源からの資料を増幅しています。NewsGuard の調査では、このネットワーク内の 150 のサイトが特定され、そのうち約 40 はウクライナをターゲットにしたコンテンツを公開し、70 はヨーロッパに焦点を当て、30 はアフリカ、太平洋地域、中東、北米、コーカサス、アジアの視聴者を対象としています。残りはトピックごとに分かれています。
Pravda ネットワークのサイトは、さまざまな言語でコンテンツを公開しています。ドメイン名の多くには、News-Kiev.ru、Kherson-News.ru、Donetsk-News.ru など、ウクライナの都市や地域の名前が含まれています。
NewsGuard によると、ロシアの侵攻の 3 年間で、プラウダは少なくとも 207 件の偽情報の物語を広めており、その中には「ウクライナの秘密の米国バイオラボ」に関する主張や「ゼレンスキーによる米国軍事援助の悪用」の非難などが含まれている。
ASP の専門家は、人工知能を操作しようとする試みには長期的な深刻なリスクが伴うと警告している。オンライン メディアで偽の物語が広まるほど、言語モデルがそれを信頼できるものとして扱い、応答に組み込む可能性が高くなる。
Axiosは、NewsGuardの調査が、ワシントンが米国サイバーコマンドのロシアに対する活動を停止したと報じられた直後に発表されたことを指摘した。