AIが生成したプロパガンダは、現実を歪曲し、国民に偽情報を流すために利用されており、すでに混乱状態にある海域において、軍事的エスカレーションへの支持を集めることさえあります。
豊かな漁場、主要な航路、そして潜在的なエネルギー資源で知られる南シナ海は、依然として重要な地政学上の争点となっています。フィリピンと中国の領土紛争は外交合意にもかかわらず依然として続いており、両国は軍事的対立と国民への警告を繰り広げています。人工知能（AI）によって駆動される、ますます洗練されたプロパガンダは、緊張をさらに悪化させています。
AIは政治 プロパガンダに革命をもたらし、国家が前例のない規模で世論を操作することを可能にしました。 フリーダム・ハウスの報告書は、16カ国で「疑念を植え付け、反対派を中傷し、あるいは公共の議論に影響を与える」ためにAIを活用した偽情報キャンペーンが展開されたことを明らかにしています。フィリピンでは、AI生成メディアが詐欺や偽情報に頻繁に悪用されています。
2024年7月、フィリピンのフェルディナンド・マルコス・ジュニア大統領が中国への攻撃を命じたと偽って描写したディープフェイク動画が拡散しました。AIが生成した音声はマルコス大統領の声を忠実に模倣しており、パニックを引き起こしました。大統領広報局（PCO）はすぐにこれを偽物と特定しました。その後の調査で、外国人が犯人であることが明らかになり、当局はAIによる偽情報発信に警告を発しました。
この事件は注目を集めましたが、孤立した事例ではありませんでした。 PH TVのようなYouTubeチャンネルは、AIと従来の動画・音声操作を駆使して、係争海域における米軍の行動の描写など、虚偽の物語を拡散しています。このチャンネルには、この種のコンテンツを「娯楽」とラベル付けする免責事項が含まれています。しかし、著者らによる未発表の調査によると、多くの視聴者が誤情報を事実として受け入れていることがわかりました。これはコメント欄にも反映されており、議論は強い反中国感情と米国の介入への揺るぎない支持の間で非常に二極化していました。このような反応の激しさと量から、多くの視聴者が動画の主張に疑問を抱くのではなく、真実であるかのように増幅させていることが分かります。
PH TVの実際の運営者は不明ですが、このチャンネルは中国が後援しているか、あるいは論争を呼ぶ問題を利用して関心を集める機会主義的な組織であると思われます。フィリピンのメディアPressOne.PHによる複数の報道によると、中国の国営メディアが、フィリピンとの継続的な言論攻勢の一環として、AI生成動画を配信していることが明らかになった。
中国は動画操作に加え、AIを活用したペルソナを用いて世論形成を図る「認知戦」も展開している。例えば、チャイナ・デイリーの孟哲氏と徐潘一如氏は、AIを用いて発言内容を調整していることを認めており、これにより視聴者にとってより分かりやすいアクセントになっていると主張している。しかしながら、専門家らは懐疑的な見方を崩しておらず、こうしたAIを活用した機能強化は、プロパガンダを洗練させ、国際的な言説における中国の影響力を強化するための、より広範な戦略の一環だとみている。
The Graphikaによ るOperation Naval Gazingに関する報告書では、AI生成のプロフィール写真を含む偽アカウントのネットワークが明らかになり、親中国的な言説を広め、ロドリゴ・ドゥテルテ前フィリピン大統領（特に、中国の地域的影響力強化を主張するドゥテルテ前大統領の主張を支持するもの）に好意的な言説を拡散していた。
中国とフィリピンの海洋紛争は特に危険度が高く、現地での偽情報キャンペーンが金銭的利益のためにフィリピンの立場を弱体化させることがある。 AFPは、FacebookページとYouTubeチャンネルからなる組織化されたネットワークが、正当なニュースソースを装いながら、AIを活用したプロパガンダで広告収入を得ていることを明らかにした。軍事関連のページでは、合同演習の古い映像を操作し、米国が地域で積極的に戦争の準備を進めていると示唆していた。
AIは政治プロパガンダに革命をもたらし、国家は前例のない規模で世論操作を可能にしている。
さらに調査を進めると、これらの活動は中央コンテンツ管理機関と関連していることが判明し、誤解を招く記事1件あたり20ドルから70ドルの収益を上げており、ネットワーク全体で1,000万人以上のフォロワーがいることが明らかになった。ワシントンD.C.のデジタルフォレンジック研究所のシニアフェローであるケントン・ティボー氏やオーストラリア戦略政策研究所のアルバート・チャン氏といったアナリストは、このネットワークと国家主体との直接的なつながりは依然として不明であるものの、その内容はしばしば中国の紛争に対する立場と一致すると指摘している。
AIによって生成される偽情報の絶え間ない流出は現実を歪め、国民の混乱と恐怖を煽る可能性がある。 PCOによる調査によると、フィリピン人の51%がフェイクニュースの見分けに苦労しており、10人中9人がデジタル情報の閲覧に困難を感じています。 AIが生成したプロパガンダはこれらの脆弱性を悪用し、社会の分断を深め、場合によっては、フィリピンが戦争に備えていないにもかかわらず、軍事的エスカレーションに対する国民の支持を喚起することさえある。
AIによる偽情報に対抗するため、フィリピン議会は、特に2025年の選挙を前に、メディア操作におけるAIの役割に対処するための法案を下院に提出しています。この法案は、包括的な規制枠組みを確立し、ディープフェイク関連の活動に法的措置を講じることを目的としています。
中国にはAIに特化した偽情報法はないが、その規制ではAI生成コンテンツの明確なラベル付け%20services%2C%20in)と国家認可の物語の遵守が義務付けられている。フィリピンは、執行可能なAI政策を欠いているため、中国に対して外交的抗議に訴えている。マルコス大統領の就任後6ヶ月間で、外務省は130件以上の抗議を提出しましたが、ほとんど効果はありませんでした。
緊張の高まりを受け、ジャーナリストたちは、政府の「透明性イニシアチブ」の一環として、紛争海域におけるフィリピンの調査団に加わり始めています。このイニシアチブは、偽情報に対抗するために出来事のリアルタイムの記録を提供するものです。このイニシアチブは透明性の向上を目指していますが、同時にジャーナリズムの独立性に対する懸念も引き起こしています。紛争地域への政府のアクセスに依存することで、ジャーナリストは国家の言説に同調するよう暗黙の圧力にさらされ、客観性が損なわれる可能性があります。
南シナ海紛争におけるAI主導のプロパガンダはまだ発展途上ですが、急速な技術進歩と地域的な緊張の高まりを考えると、その影響力はますます拡大していくことが予想されます。その影響を軽減するには、協調的な取り組みが必要です。政策立案者は、悪意のある行為者に責任を負わせるためのより強力な規制を確立する必要があり、テクノロジー企業はAIを活用した検出ツールへの投資と、アルゴリズムによる意思決定の透明性を高める必要があります。市民社会とメディアリテラシー推進者は、的を絞った教育とアクセスしやすい検証ツールを通じて、国民に批判的思考力を身につけさせるべきです。デジタル誤情報は国境を越えて拡散するため、情報の完全性を維持するには国際協力が鍵となります。
しかしながら、主要ソーシャルメディアプラットフォームがファクトチェックを縮小するにつれ、これらの取り組みはますます困難に直面しています。この地域でのMetaのファクトチェックからの撤退と、米国での最近の第三者によるファクトチェックの中止により、偽情報に対する重要な安全策が失われる。 X（旧Twitter）も、専門家によるファクトチェックをコミュニティ主導の「コミュニティノート」に置き換えましたが、一貫性のなさや遅延が批判されています。これらのプラットフォームが分散型モデレーションに移行するにつれ、誤情報が野放しに拡大するリスクがあります。これに対抗するため、地域の関係者は、AIによる偽情報が地域の不安定化を招かないよう、独立したファクトチェックネットワークへの投資と地域検証の取り組みの強化を早急に行う必要があります。