Report 4885

NewsGuard が Axios に初めて提供したレポートによると、主要な AI チャットボットはロシアの誤情報を吐き出している。

重要な理由: 信頼できる情報やすべての質問に対する迅速な回答を求めてチャットボットを利用するユーザーは、AI が偽情報、風刺、フィクションを事実として提供できることに気づき始めている。

ニュースの推進：調査を実施するために、NewsGuardは、ニューヨークタイムズ紙によるとモスクワから誤情報を作成し、広めているアメリカ人逃亡者ジョン・マーク・ダウガンが作成したと知られている物語について尋ねるプロンプトを入力しました。

NewsGuardは、主要な10のチャットボットに57のプロンプトを入力し、それらが32％の割合でロシアの偽情報の物語を広め、多くの場合、ダウガンの偽のローカルニュースサイトを信頼できる情報源として引用していることを発見しました。
チャットボットは、ドナルド・トランプのマール・ア・ラーゴ邸宅で盗聴が発見されたとされる件や、米国の選挙に干渉しているウクライナのトロール工場が実在しない件など、これらのサイトから発信された虚偽の報告を事実として提示した。
NewsGuard は、OpenAI の ChatGPT-4、You.com の Smart Assistant、Grok、Inflection、Mistral、Microsoft の Copilot、Meta AI、Anthropic の Claude、Google Gemini、Perplexity について調査を実施した。
NewsGuard は、OpenAI、You.com、Grok、Inflection、Mistral、Copilot、Meta、Claude、Gemini、Perplexity に調査結果に関するコメントを求めるメールを送ったが、返答はなかった。

彼らの発言: 「本当に憂慮すべきなのは、これらのチャットボットが頻繁に繰り返したデマやプロパガンダが、その背後にいる人物も、決して知られていないわけではないということだ」と、NewsGuard の共同 CEO であるスティーブン・ブリル氏は Axios に語った。

「このレポートは、業界がニュースや情報に特別な注意を払わなければならない理由を具体的に示している」と同氏は述べた。ブリル氏は、「今のところ、ニュース関連の問題、特に物議を醸す問題に関して、これらのチャットボットのほとんどが提供する回答を信用しない」ことを推奨している。

全体像: AI 搭載チャットボットの増加は、米国大統領選挙が行われる年であり、世界中で 10 億人以上が投票所に向かう年でもある。

最近のOpenAIのレポートによると、秘密の影響力キャンペーンを行っている人々は、その活動を支援するためにチャットボットを使い始めている。
マーク・ワーナー上院議員（民主党、バージニア州）は先週、2020年や最近の選挙サイクルと比較して、今年は誤報活動が増加していることを懸念しているとAxiosに語った。
「率直に言って、アメリカ人がかつてないほど狂った陰謀論を信じやすい時期に、これは本当の脅威です」と、上院情報委員会の委員長を務めるワーナー氏は述べた。
今年のミュンヘン安全保障会議では、多くの大手AI企業がディープフェイクや選挙関連の誤情報の拡散を抑制するための措置を講じることに同意したが、ワーナー氏はそれ以降の展開に失望しているという。「どこに問題があるのか？あまり動きが見られない」と同氏は語った。

現状：NewsGuardは、下院監視委員会のジェームズ・カマー委員長（ケンタッキー州共和党）から非難を浴びている。委員長はNewsGuardが「検閲キャンペーンの不透明なエージェントとして機能する可能性」を懸念し、同組織に対する調査を開始した。

一方、NewsGuardは、委員会が国防総省との協力を誤解しているとしてこの主張を否定し、この協力はニュースソースの評価とは何の関係もなく、「米国人と同盟国を標的としたロシア、中国、イラン政府関連の活動による敵対的な偽情報の活動にのみ関係している」としている。
「ワシントンの政治家が政府の権力を使って報道機関を脅迫し、記者のメモや情報源とのやり取りの記録のコピーを要求しているのは憂慮すべきことだ」とニュースガードは声明で述べた。
「我々は、ジャーナリズム組織として憲法修正第1条の権利を積極的に守りつつ、委員会の誤解に対処するつもりだ」

レポート 4885