新しいレポートによると、ロシアのニュースソースからの偽情報により、いくつかの主要な人工知能チャットボットの検索結果が損なわれている。
NewsGuardの調査により、ポータル・コンバットとしても知られるプラウダが運営する膨大なウェブサイトネットワークから発信された親ロシア的な物語が、主要なチャットボットに入力されるデータセットに意図的に挿入され、その情報が回答の作成に利用されていることが明らかになった。
_Newsweek_はロシア外務省に電子メールでコメントを求めた。
なぜ重要なのか
人工知能はまだ開発の初期段階にあり、現在のチャットボットはイ ンターネット上の既存のソースから情報を引き出すことに大きく依存している。これらの情報源に親ロシア派の情報を大量に流すことで、悪意ある行為者はチャットボットがユーザーにクレムリンに有利な回答を提供する方法を歪めることができるかもしれない。
知っておくべきこと
「真実」を意味するロシア語にちなんで名付けられた「プラウダ」（ロシア最古の新聞の1つである_プラウダ_にちなんで名付けられたロシアのメディアネットワークと混同しないでください）として知られるモスクワを拠点とする偽情報作戦は、世界で最も広く使用されているAIチャットボットの一部を直接汚染しています。
NewsGuardによる調査によると、プラウダは人工知能モデルが応答を生成するために使用するデータを体系的に侵入し、検索結果とウェブクローラーを親ロシア派の記事と論点に溢れさせています。
これは、AI システムが情報を提供する際に親ロシア派のニュース ソースから情報を得ていることを意味し、チャットボットが生成したコンテンツはロシア政府が後援する物語をますます反映するようになっている。
ロシアのプーチン大統領は、2023 年 11 月 24 日にロシアのモスクワで行われた人工知能の旅 2023 でジェスチャーをしている。ロシアのプーチン大統領は、2023 年 11 月 24 日にロシアのモスクワで行われた人工知能の旅 2023 でジェスチャーをしている。ゲッティ イメージズ
NewsGuard の分析により、プラウダに関連するプラットフォームは 2024 年だけで 360 万件以上の記事を公開しており、そのすべてが AI モデルがユーザーに情報を提供するために使用するデータセットに直接偽情報を植え付けるように設計されていることが明らかになった。
この手法の目的は明確である。ロシア在住のコメンテーター、ジョン・マーク・ダウガン氏は、昨年 1 月にモスクワでロシア当局者会議でスピーチを行い、そこで 次のように述べた。「ロシアの視点からこれらのロシアの物語を推し進めることで、実際に世界中の AI を変えることができます。」
誤解を招く主張、陰謀説、クレムリン寄りのメッセージで満たされたこれらの記事は、カスタマー サービス ボットから広く使用されている AI チャット コンパニオンまで、主要な AI システムに情報を提供する Web クローラーによって拾われています。
人々が言っていること
レポート で、NewsGuard は次のように述べている。「このネットワークは、さまざまな地理的地域にわたって数十の言語で虚偽の主張を広め、AI モデルにとって、その主張がより信頼性が高く、世界中に広まっているように見せている。
「Pravda ネットワークの 150 のサイトのうち、約 40 はウクライナの特定の都市や地域をターゲットにしたドメイン名で公開しているロシア語のサイトです。」
次に何が起こるか
人工知能企業はこの技術で劇的な進歩を続けており、Grok-3 の最近のリリース は米国における最新の開発である。しかし専門家は、こうしたサービスの急速な発展に伴い、偽情報の影響を受けやすいまま、民主主義に対する影響の大きさと範囲も拡大していると警告している。