フィリピン上院が同国副大統領の弾劾裁判の開始を拒否した数日後、賛成派と反対派のフィリピン人への2つのインタビューが話題になった。
どちらも本物ではなかった。
主張を展開した男子生徒と高齢女性はAIによって作成されたもので、基本的なオンラインツールでさえも偽造がますます巧妙化している例と言える。
「なぜ副大統領だけを標的にするのか？」と、白い制服を着たデジタルで作成された少年が問いかけ、この裁判は政治的動機に基づくものだと主張した。
下院は2月初旬、汚職、汚職、そして元同盟者で副大統領候補だったフェルディナンド・マルコス大統領に対する暗殺計画の容疑でサラ・ドゥテルテ大統領を弾劾した。
上院で有罪判決が出れば、彼女は職務を解かれ、フィリピンの政治活動から永久追放されることになる。
しかし、6月10日に弾劾裁判所として開廷した後、上級機関は直ちにこの事件を下院に差し戻し、合憲性を疑問視した。
ドゥテルテ氏の盟友であるロナルド・デラ・ロサ上院議員は、男子生徒が大人よりも「何が起こっているのかをよりよく理解している」と称賛する動画を共有した。この動画はその後、何百万回も視聴されている。
ドゥテルテ氏の弟で、一族の拠点であるダバオ市長を務めるセバスチャン氏は、この動画は「リベラル派」が若い世代の支持を得ていないことを証明していると述べた。
男子生徒がデジタル作品だと暴露された時も、副大統領とその支持者たちは動じなかった。
「私を支持するAI動画を共有することには何の問題もありません。ただし、それがビジネス化されない限りは」とドゥテルテ大統領は記者団に語った。
「たとえAIであっても…その点には同意します」と、かつてロドリゴ・ドゥテルテ前大統領の麻薬撲滅戦争の執行役を務めたデラ・ロサ氏は述べた。
- 5分間の作業 -
弾劾を訴えるこの動画（これも数百万回再生されている）では、高齢の女性が魚を売りながら、上院が裁判を開かなかったことを非難している。
「あなた方18人の上院議員の皆さん、貧しい人々が盗んだ場合は、問答無用で即座に投獄すべきです。しかし、副大統領が数百万ドルを盗んだ場合は、断固として彼女を擁護するのです」と彼女はタガログ語で述べた。
どちらの動画にも、Googleの動画生成プラットフォーム「Veo」の透かしがほとんど判別できないほど入っていた。
AFPのファクトチェッカーは、髪の毛や歯が過度に滑らかに描かれていたり、店舗の看板が文字化けしていたりするなど、視覚的な矛盾も指摘した。
魚売りの動画を制作したベルナール・セノシップ氏（34歳）は、AFPに対し、8秒の動画の制作に約5分かかったと語った。
Facebookページを通じて連絡を取ったセノシップ氏は、ビデオ通話で自身の作品を擁護し、AIキャラクターはソーシャルメディアでよくある「厳しい批判」を避けながら、人々が自分の意見を表明することを可能にすると述べた。
「自分の限界を理解し、視聴者を誤解させない限り、問題ないと思います」とセノシップ氏は述べ、Facebook版とは異なり、TikTokへのアップロードには「AI作成」のタグを付けたと付け加えた。
AFPはこれまでも、フィリピンの重要な問題を金儲けのために利用するウェブサイトについて報じてきたが、セノシップ氏は自身の作品は単に政治的意見を表明する手段に過ぎないと述べた。
この男子生徒の動画を制作した、人気Facebookページ「Ay Grabe」の匿名管理者はインタビューを拒否したが、AIが作成した意見は実際の生徒から得たものだと述べた。
AFPは他のメディアと同様に、Meta、Google、TikTokなどのプラットフォームから、偽情報対策の報酬を受け取っている。
- 「グレーゾーン」 -
一見普通の人々を介してAIを使って意見を押し付けることは、ある信念を「実際よりも広く受け入れられているように見せかける」可能性があると、偽情報を研究する非営利団体Sigla Research Centerのホセ・マリ・ ラヌーザ氏は述べた。
「弾劾の場合、こうしたコンテンツは特定の議員だけでなく、弾劾プロセスに対する不信感を醸成する」
一部のAI企業は著名人を保護するための対策を講じているものの、南洋理工大学の准研究員であるホセ・ミゲリート・エンリケス氏は、最近のフィリピンの動画は別物だと指摘する。
「OpenAIのような一部のAI企業は以前、ユーザーが政治候補者を含む『実在の人物』のディープフェイクを生成することを防ぐことを約束していました」とエンリケス氏は述べた。
「しかし…こうした街頭インタビューは、技術的には実在の人物の肖像を使用していないため、グレーゾーンとなっています。」
データ・アンド・AI・エシックス・フィリピンの創設者であるドミニク・リゴット氏は、リアルな「人間」の制作も容易になっていると述べた。
「Veoは、急速に進化するAIメディア生成ツール群の最新版に過ぎません」とリゴット氏は述べ、最新バージョンは「以前のAI動画モデルと比較して、より滑らかでリアルな動きと奥行きを生み出しています」と付け加えた。
Googleは、Veoが誤情報の拡散に利用されるのを防ぐための安全策を開発したかどうかAFPに問い合わせたが、回答は得られなかった。
リゴット氏は、急速に進化するテクノロジーをガードレールで囲むことは必須だとし、AIが「現実の人々の感情に影響を与え、意思決定者に圧力をかけ、民主的な議論を歪める」ためにますます利用されていると警告した。