ロシアの偽情報は必ずしも効果がないわけではない。
新たな報告書で分析された、クレムリンと連携したプロパガンダ投稿135件のうち、134件はソーシャルメディアユーザーにほとんど受け入れられず、主にボットネットワークによって「いいね！」や再シェアされただけだった。しかし、1件は大きな反響を呼んだ。そして、人工知能によって偽情報の作成コストが削減されたため、専門家は、この1件の成功が、おそらくロシアの資金提供者による陰謀論の目にキャンペーン全体の勝利を映す可能性が高いと指摘している。
この 投稿は、米国国際開発庁（USAID）に関する虚偽の主張をするフェイクニュース動画で、イーロン・マスク氏がXにリポストしたことで大成功を収めました。
このプロパガンダ投稿キャンペーンは「オペレーション・オーバーロード」、別名「マトリョーシカ」と呼ばれています。通常、実際の画像にAI生成のナレーション、そして実在の報道機関や組織のロゴを組み合わせ、ロシアの主張を裏付ける虚偽または誤解を招く「ニュースクリップ」を作成します。火曜日の公開に先立ち、Tech Briefに共有された報告書の中で、非営利団体戦略対話研究所（ISD）の研究者たちは、これらの投稿の内容、目的、そして拡散方法を調査しました。
ISDの調査によると、ロシア政府の支援を受けていると推定されるものの、確認はされていないこのネットワークは、ソーシャルメディア上で展開される言論に影響を与えることを目的として、次から次へと話題のニュースを流布している。そのメッセージは、ロシアのよくある目的である「NATO諸国によるウクライナへの支援を弱め、国内政治を混乱させること」に焦点を当てていた。
オペレーション・オーバーロードの投稿のほとんどは成果をあげなかったが、ある投稿は政界最大の獲物を釣り上げた。
報告書によると、偽の暗殺計画や小児性愛告発といった「大げさな嘘」を広める投稿は、Xが削除した投稿の20%未満にもかかわらず、ほとんど無視されているようだ。
最終的に注目を集めたのは、それほど派手ではない偽情報だった。
ケーブルテレビ局Eニュースのクリップだと称するこの動画は、USAIDがウォロディミル・ゼレンスキー大統領の人気を高めるため、アンジェリーナ・ジョリー、ショーン・ペン、ベン・スティラーといったハリウッドの有名俳優にウクライナへの渡航費として数百万ドルを支払ったという虚偽の主張をしていた。2月5日、この動画は70万人以上のフォロワーを持つ右派系の匿名アカウント「X」によって投稿され、その後、2億2000万人のフォロワーを擁しプラットフォームで最も影響力のあるマスク氏によって再投稿された。
この動画は後に、Xのクラウドソーシングによるファクトチェックプログラム「コミュニティ・ノーツ」のユーザーによって虚偽であると否定された。彼らは、Eニュースとスティラー氏がこの動画を偽物だと断定したと指摘した。しかし、この動画は月曜日時点でXに掲載され続け、400万回以上再生されている。Xはコメント要請に応じなかった。
この偽動画には少なくとも3つの目的がある。
一つは、ロシアの主張を信じる準備ができている人々の間で、その主張を強化することだ。今回のケースでは、マスク氏もその一人だった。マスク氏は、政府効率化局がUSAIDを解体した後、USAIDを中傷する一連のX投稿を行っていた。
偽情報を調査する非営利団体、アメリカン・サンライト・プロジェクトのCEO、ニーナ・ヤンコウィッツ氏は、クレムリンとそのメディア同盟は10年以上にわたりUSAIDを悪者にしようとしてきたと述べた。DOGEによる物議を醸したUSAID解体は、USAIDの無駄遣いという概念とゼレンスキー大統領の不人気という概念を結びつけるメッセージ（これもロシアの主張である）を、受容性の高いアメリカの聴衆に届ける好機となった。
ISD のシニアリサーチマネージャー、ジョセフ・ボドナー氏は、もう一つの目的は、投稿が偽装している報道機関やその他の機関の信頼性を損なうことだと述べた。
「特定のメディアのロゴが入った動画に一度騙されると、同じメディアの次の動画にも疑念を抱く可能性が高くなる」と彼は述べた。
最後に、特に「オペレーション・オーバーロード」は、少なくとも部分的には、そうした主張を暴く任務を負っている機関や独立したファクトチェッカーの時間を無駄にすることを目的としているように思われる。偽の投稿が増えれば増えるほど、それらをすべて打ち消すために必要なリソースも増える。
この報告書は、ロシアの偽情報がいかに「数のゲーム」になり得るか、そしてAIがそのゲームをいかにして荒らしに有利に傾けているかを示している。
「100本の動画のうち1本でも注目を集めれば、それは目的を達成した勝利だ」とボドナー氏は述べた。
この点は、クレムソン大学メディアフォレンジックハブの共同ディレクターであるダレン・リンビル氏を含む研究者たちが4月に発表した論文で強調されている。研究者たちは、AIによって悪意のある行為者が、より多くのコンテンツをより速く作成できるようになり、しかも、そのコンテンツを目にしたユーザーの間での信頼性を損なうことがないことを発見した。
リンビル氏は言い換えれば、「彼らは大量のスパゲッティを壁に投げつけている」と述べた。しかし、彼らはまた、一部のコンテンツがくっつく可能性を高める方法も持っている。例えば、マスク氏がリポストした偽のEニュー ス動画は、実際に人間のフォロワーを持つ親ロシア派のインフルエンサーのネットワークを起点に最初に拡散されたとリンビル氏は述べた。
専門家によると、こうしたキャンペーンを追跡することはもちろん、対抗することさえ困難になっているという。
マスク氏のXとマーク・ザッカーバーグ氏のMetaは近年、オンラインコンテンツのモデレーションに対する共和党主導の圧力の中で、研究者向けのツールを閉鎖し、オンラインコンテンツのモデレーションから撤退してきた。右派の多くはこれを検閲と見なしている。偽情報に関する独立した研究は、訴訟、議会公聴会、そして独立した研究者に対するオンラインでの嫌がらせキャンペーンの波によって萎縮している。
ドナルド・トランプ大統領政権は、国務省のグローバル・エンゲージメント・センターなど、外国の偽情報の追跡と対策に重点を置く政府機関を解散しました。先月、政府は誤情報と偽情報に関する研究のための国立科学財団の助成金の取り消しを開始しました。
共和党議員らはGECが保護された言論を抑圧していると非難したが、ボドナー氏はGECが国家支援の偽情報キャンペーンを特定する上で重要な役割を果たし、プラ ットフォームや独立系研究者がそれらのキャンペーンを他のキャンペーンと関連付けることが可能になったと述べた。GECの廃止は、研究者が追跡しているキャンペーンへのロシアなどの国家主体の関与を推測する必要性が高まることを意味する――「オペレーション・オーバーロード」のケースがまさにその例だ。
一方、ロシアによる偽情報キャンペーンは、減速の兆しを見せていない。
USAIDが資金提供を受けたことで、GECは最近、ドイツ、ポーランド、その他のヨーロッパ諸国の選挙に注力している、とボドナー氏は述べた。
先月、同僚のジョセフ・メンは、ロシアの工作員がプロパガンダを拡散するために別の手法を用いていると報じました。その手法とは、AIチャットボットにクレムリンの嘘を植え付けるというものです。これは、人間が意図的に読んだり共有したりしなくても、オンラインで公開された偽情報が主流に浸透する可能性がある方法です。