ガーナの大統領選挙が12月7日に迫る中、研究者らはX上で、ChatGPTを使用して現職政党である新愛国党（NPP）に有利な投稿をする171のボットアカウントのネットワークを発見した。
AIが作成したボットプロフィールは、ガーナの大統領マハムドゥ・バウミアを宣伝している。 X/@joyce_j5
ニュースメディアの正確性と信頼性を評価するツールを提供するウェブサイトNewsGuardが実施した新しい調査によると、ボットアカウントは一貫してNPP候補者のマハムドゥ・バウミア氏と彼の右翼的な論点を宣伝しており、ハッシュタグ#Bawumia2024、#NPP、およびNPPのスローガン#ItIsPossibleをよく使用しています。 アカウントは2月から活動しているようです。
「バウミア博士のガーナ変革への取り組みに感心しています」と、9月のAI作成ボット投稿に書かれています。 「彼が我が国の政策と進歩に与えた多大な影響は、いくら強調してもし過ぎることはない。#Bawumia2024 #NPP」
これらのアカウントは、AIが生成したプロフィール写真を持ち、「グレン・ワシントン」、「Netflix Series&Movies」、「Patriot」などの名前を持ち、ライバル左派政党である国民民主会議の大統領候補であるジョン・マハマ氏をもけなしている。これらの投稿では、#mahamaisaliar や #DrunkmaniMahama などのハッシュタグが頻繁に使用され、マハマ氏は酔っ払いだと非難されている。（マハマ氏はこれを否定している。）
「このネットワークの主な目的は、NPP支持のメッセージを広め、バウミア政権を宣伝し、野党である国民民主会議を標的にすることのようだ」と、この調査に協力したニュースガードのAIおよび外国の影響力担当編集者であるマッケンジー・サデギ氏はRest of Worldに語った。
NewsGuardの研究開発ディレクター、ディミトリス・ディミトリアディス氏は、Rest of Worldとのインタビューで、ボットアカウントは「定期的」かつ「予測可能な」間隔で投稿する傾向があり、1日に10回以上投稿することが多いと述べた。同氏によると、ガーナでは午前8時から午後6時の間にアクティブになることが多いアカウントは、主にボットネットワーク内の他のユーザーから「いいね！」やリポストを受けているという。タイミングとスタイルの規則的なパターンから、研究者はアカウン トが偽物である可能性があると気付いたという。
NewsGuardの研究チームは、アカウントからの171件の投稿すべてをPangram Labsのツールに入力し、テキストがAIによって生成された可能性を評価したとディミトリディス氏は述べた。このツールは、すべてのアカウントがChatGPTによって作成されたAI生成コンテンツを投稿している可能性が「非常に高い」と結論付けた。
過去2年間、NewsGuardは「Xでの操作された行動の事例を数多く追跡し、追跡してきた」とディミトリディス氏は述べた。
Xのコンテンツモデレーションは、イーロン・マスクが同社を買収し、Twitter社に電話をかけた2022年以降、大幅に減少しました。マスクはすぐにウェブサイトのコンテンツモデレーターのほとんどと、外国の影響キャンペーンを特定して削除した信頼性と安全性のエンジニアの推定80%を解雇しました。 Xはその後、CEOのリンダ・ヤッカリーノ氏が拡大を約束してからわずか数週間後に、選挙の公正性確保ユニットの半分を削減した。欧州ユニットの2023年のレポートによると、マスク氏のリーダーシップのもと、他のソーシャルメディアプラットフォームと比較して、誤報や偽情報の投稿量が爆発的に増加したという。プラットフォームの監視が不十分なため、政治的影響力を持つネットワークが台頭する余地が生まれている。ChatGPTなどのツールを使えば、こうしたネットワー クは、ほとんど阻止されることなく、大規模なソーシャルメディアコンテンツを作成できる。「AIは、選挙や民主的な結果に影響を与えようとする悪質な行為者によってますます利用されているようだ」とディミトリアディス氏はRest of Worldに語った。
サデギ氏は、マスク氏が指揮を執って以来、NewsGuardはXで多くの変化を観察していると述べた。
「最も広まっている虚偽または根拠のない主張のいくつかについては、X アカウント の認証済みユーザーがいることが判明した」とサデギ氏は述べた。 「青いチェックマークは、プラットフォーム上で誤情報がより目立つように表示されることを可能にするため、悪質な行為者にとって有利であることが判明しました。」
彼女はさらに、最近の NewsGuard の調査 によると、回答した X ユーザーの 4 分の 1 が、青いチェックマークのあるユーザーの方がないユーザーよりも信頼できると考えていることがわかったと付け加えました。
「青いチェックマークは、プラットフォーム上で誤情報がより目立つように表示されるため」
今年はガーナにとって政治的に不安定な時期です。 米国国務省によると、ガーナでは2020年の前回選挙期間中に8 人もの人が殺害された。殺害のうち2件は民間人によるもので、他の2件は同国の選挙セキュリティタスクフォースの軍人と警察官によるものだった。
NewsGuardは報告書の中で、171のボットアカウントのネットワークは「ガーナでAIを使って選挙に影響を与えた最初の秘密党派ネットワークのようだ」と述べた。
NewsGuardは調査結果をXとOpenAIと共有したとディミトリアディス氏は述べた。本稿執筆時点で、171のアカウントのうち2つが停止され、2つが制限されている。どちらの企業も、その他の国からのコメント要請には応じなかった。
OpenAIは、人々がChatGPTを使用して政治的言説に影響を与えるコンテンツを生成することに対して懸念を表明している。OpenAIが10月に発表したのレポートによると、影響力のあるネットワークは、米国、ルワンダ、そして（程度は低いが）インドと欧州連合で、政治的なソーシャルメディア投稿やブログ投稿を行うためにChatGPTを使用している。同社は、これらのネットワークのうち20以上の活動を「妨害した」と主張した。
ガーナのネットワークは、ネットワークの投稿にあるハッシュタグや話題のすべてがすでに人気があったため、ガーナの政治言説に新しいものを導入しなかったとディミトリアディス氏は述べた。同氏は、これらのアカウントがガーナの政治言説にどれほどの影響を与えたかを評価するのは「本質的に難しい」と付け加えた。
「ネットワークの目的の1つは、特定のNPP支持ハッシュタグにトラフィックを非常に明確に誘導することだった」とディ ミトリアディス氏は述べた。「しかし、ハッシュタグの性質上、そしてこれらのハッシュタグを宣伝するアカウントが毎日何千もあるため、その影響を解明するのは非常に難しいと思う」