レポート 4884

OpenAI、Meta、その他8つのチャットボットが偽情報ネットワークを情報源として利用 Rashmi Ramesh (rashmiramesh_) • 2024年6月19日        

人気の人工知能チャットボットにはロシアの偽情報が溢れていると、ニュースおよび情報ウェブサイトの評価システムであるNewsGuardが警告している。

NewsGuardの研究者らは、OpenAIのChatGPT-4、イーロン・マスクのGrok、Mistralを含む10のチャットボットにプロンプトを入力し、回答の約3分の1に、ロシアで政治亡命した米国の逃亡者、ジョン・マーク・ダウガンが作成した偽のローカルニュースサイトとYouTube動画のネットワークから収集された偽情報が含まれていることを発見した。

MicrosoftのCopilot、Meta AI、AnthropicのClaude、Google Geminiもこの研究に参加した。

同社は、ウクライナのウォロディミル・ゼレンスキー大統領の汚職に関する虚偽の主張など、ロシアの偽情報ネットワークに関連する19の虚偽の物語に基づいて、約600のプロンプトをテストした。

チャットボットは、ドナルド・トランプ前大統領のマール・ア・ラーゴ邸宅で発見された盗聴器の疑いなど、ダウガン氏のサイトで見つかった偽情報を事実として繰り返したと、NewsGuardは述べている。

チャットボットは、「ボストン・タイムズ」や「ヒューストン・ポスト」などのサイトがロシアのプロパガンダのフロントであり、おそらくAIの支援を受けて作成されたことを認識できなかった。「この悪循環は、AIプラットフォームによって虚偽が生成され、繰り返され、検証されることを意味します」とNewsGuardは述べた。

同社は、この問題が「特定の大規模な言語モデルに固有のものではなく、AI業界全体に広がっている」ため、各チャットボットが流した偽情報の量についてスコアを付けなかったと述べた。

この調査結果は、人々が素早くカスタマイズされた情報を得るために、ソーシャルメディアのインフルエンサーやAIチャットボットなどの情報源に頼り始めた時期に発表された。

今年の選挙では、AI による偽情報が蔓延しています。悪意のある人物がテクノロジーを武器にして ビデオ や オーディオ のディープフェイクを生成し、偽情報を拡散しています (APT ハッキングと AI によるリークが選挙の最大の脅威 を参照)。

ソーシャルメディア企業やAI大手は、選挙に影響を与える可能性のある偽情報を広めるための技術の悪用を抑制することを誓約している。OpenAIは最近、発見、秘密裏に影響力行使キャンペーンを展開する脅威アクターもAIチャットボットに依存している。