(TNND) --- 人気の人工知能チャットボットはロシアのプロパガンダで溢れており、その偽情報の多くは、AIシステムからの回答を求める無防備なアメリカ人に繰り返し伝えられていると、NewsGuardの新しいレポートは述べています。
オンライン偽情報の監視機関であるNewsGuardは、OpenAI、X、Microsoft、Google、Metaなどの10の主要な生成AIツールを監査しました。
NewsGuardによると、チャットボットは合計で3分の1の割合でロシアの偽情報の虚偽の物語を繰り返しました。
AIチャットボットは約18％の割合で無回答を提供し、約48％の割合で虚偽の物語を暴きました。
チャットボットの中には、ロシアのプロパガンダから発信された特定の記事を直接引用するものもあった。
NewsGuardによると、偽情報は、ロシアがウクライナに侵攻した直後に立ち上げられたモスクワを拠点とする「プラウダ」というネットワークによって発信されている。
それ以来、このネットワークは、ロシアの国営メディア、親クレムリンの有力者、ロシア政府関係者のコンテンツを集約したさまざまな言語の150のドメインに拡大している。
American Sunlight Projectによると、プラウダは年間360万の記事を出版している。このグループは先月、ロシアのプロパガンダネットワークに関する同様の調査結果をまとめたレポートを発表した。
American Sunlight Projectは、ロシアのネットワークが自分たちの物語を共有するためにAIチャットボットを「育成」していると述べた。
「これをデータ侵入やデータ汚染と呼ぶこともある」と、パーデュー大学のガバナンスと責任あるAI研究所の共同所長で政策科学者のダニエル・シフ氏は述べた。
シフ氏は、ロシアの工作員が、実質的に規制されていないチャットボットを通じて偽情報や親ロシア的な物語を洗浄しようとしていると述べた。
「これはそれほど驚くべきことではないが、非常に懸念される」と同氏は述べた。
シフ氏は、NewsGuardの報告書は「私たちにとって本当に大きな警告となるはずだ」と述べた。
AIシステムは、単純な方法と複雑な方法の両方で簡単に騙される、とシフ氏は述べた。
チャットボットは、検証されていな い情報源を含むインターネット全体から情報を収集する。
「少なくとも、良質な（AI）企業は、十分に検証されていないデータを排除しようとしています。しかし、それは非常に難しいことです」と同氏は語った。「彼らは、それにあまり力を入れていないかもしれません。ですから、大量の偽情報を世に出し、それをAIモデルがアクセスする可能性の高いチャネルに意図的に送信することで、モデルのトレーニング、モデルの重み、そして彼らの目標であるモデルの出力を、自分たちに有利な発言に完全に変えることができます。」
シフ氏は、規制や十分に検証された技術的メカニズムなどの十分な安全策が講じられていないと述べた。
また、米国人はAIチャットボットの応答を過度に信頼することがあると述べた。
「米国人がAIを一般的にどの程度信頼しているかについてはさまざまな証拠がありますが、過度の依存の証拠は十分にあると思います。私は毎学期、学生にこれを見ています」と同氏は語った。
生成型AIシステムが「幻覚」に悩まされていることは、人々が知っているかもしれない。
人々は、AI の回答を、既知の信頼できる情報源で再確認する必要があることを知っているかもしれない。
しかし、AI チャットボットは非常に説得力のあるように聞こえる。
シフ氏は、AI の回答がどれだけ明確に表現されていても、必ずしも正しいとは限らないと警告した。
誤報キャンペーンは、人々の心や精神に影響を与えるのに時間がかかるかもしれないが、効果はあり得るとシフ氏は述べた。
「したがって、国内問題、政策問題、国際問題、戦争など、どん な問題でも、国民の一部に影響を与えて誤ったことを信じさせ、時間をかけて問題について考えれば信じないであろうことを信じさせることができる」と同氏は述べた。