「私から援助を受けていない人はいますか？ 今、何が必要ですか？」11月に投稿された動画で、プラボウォ氏は視聴者に問いかけているように見える。
しかし、インドネシアの指導者の口が動いたり、目が瞬いたりする一方で、彼が発する言葉は、先月警察が摘発した、インドネシア20州で国民を騙した不正なディープフェイク詐欺の一部である。
このメッセージに引っかかった人々は、WhatsAppの番号に連絡し、実現しなかった援助を受けるための「事務手数料」として25万～100万ルピア（15～60ドル）を渡すよう求められた。
昨年のインドネシア選挙以来、専門家はディープフェイクの急増を警告してきた。ディープフェイクとは 、音声、画像、動画が有名人のものであるように見えるが、実際には人工知能ツールを使った詐欺師の仕業である。
被害者は、このいたずらは非常に巧妙で、他の人も騙される可能性があると述べている。
「人々はもっと注意すべきだ。賞品の誘惑に簡単に騙されてはいけない」と、インドネシアの著名な実業家のディープフェイク動画を見て詐欺師に20万ルピアを渡した56歳のアリヤニ氏は語った。
「お金が必要なのに、送金するように言われる。まるで直接話しているかのようにビデオ通話までされた」
この東南アジアの国の大統領選挙中、ディープフェイクは候補者にとって有害かつ有益な誤情報を広める主要なツールとなった。
しかし今、その技術は現金を儲けようとする犯罪者の手に渡っている。
広く流通
AFPのファクトチェッカーは、プラボウォの動画の背後にあるアカウントが、インドネシアのギブラン・ラカブミン・ラカ副大統領を含むさまざまな著名人を映しているように見える同様の動画を数十本投稿していることを発見した。
これらの動画は偽の財政援助も宣伝している。
インドネシア国家サイバー犯罪ユニットのヒマワン・バユ・アジ局長は2月、この詐欺で6500万ルピア（4000ドル）を懐に入れた容疑者を警察が逮捕したと記者らに語った。
同局長は、警察がディープフェイク技術を使った別の詐欺に関与した2人目の人物を拘束したが、集めた金額は明らかにしなかったと述べた。
AFPファクトチェックの調査では、こうした動画の拡散は警察が発表した2つのアカウントよりもはるかに広範囲に及んでいることが判明した。
元将軍として人気の大統領のディープフェイク動画は逮捕後もソーシャルメディアで出回っており、TikTokには「プラボウォ大統領が祝福を分かち合う」というハッシュタグが付けられた動画が数十本投稿されている。
AFPの記者らは、プラボウォ大統領が10月に就任して以来、少なくとも22のTikTokアカウントが同じ詐欺計画を宣伝していることを発見した。そのうちのいくつかは、プラボウォ大統領の最近の大統領就任に便乗しているようだ。
7万7000人以上のフォロワーを持つあるアカウントは、プラボウォ大統領が金銭援助を行っているとみられる捏造動画で750万回の視聴回数を記録した。
何千人ものフォロワーを持つ別のアカウントは、1月以降だけで100本の動画をシェアしており、その大半は大統領が現金を提供するディープフェイク動画だ。
TikTokは、ディープフェイク詐欺動画の1本と関連アカウントを削除したと述べ、誤解を招く投稿を禁止するプラットフォームのコミュニティガイドラインに違反する動画は今後も削除すると付け加えた。
Facebookの親会社Metaは、AFPのコメント要請には応じなかった。
AFPは、他の100以上のファクトチェック組織とともに、TikTokとMetaから報酬を受け、虚偽の情報が含まれている可能性のあるソーシャルメディアの投稿を検証している。
よりアクセスしやすく
インドネシアのファクトチェック組織Mafindoの共同創設者であるアリボウォ・サスミト氏は、オンラインでの拡散が激しいため、彼のチームは毎週新たなディープフェイク詐欺を発見していると語った。
「AIツールがより入手しやすく、手頃な価格になったため、昨年からディープフェイク動画が見られるようになった」と同氏はAFPに語った。
著名人のディープフェイクを使った詐欺は増加傾向にあるようだ。
テクノロジー業界の億万長者イーロン・マスク氏やカナダのジャスティン・トルドー首相など、近年、現金詐欺を目的とした巧妙ななりすましの標的となった著名人は数多い。
アリボウォ氏は、彼のファクトチェッカーチームは、犯罪者が利用できる最新の技術を使って、こうした詐欺を暴くためにこれまで以上に懸命に取り組んでいると語った。
「これらの動画の品質は時間とともに向上していることに気づきました。偽の動画と本物の動画を区別することがより困難になっています」と同氏は付け加えた。
「問題は、こうした詐欺の多さです。」