インドネシアの伝統的な黒い帽子とシャツを着たプラボウォ・スビアント大統領は、インスタグラムの動画でカメラに向かって、昨年の選挙後、国民にどう支援できるかを尋ねている。
「私から支援を受けていない人はいますか？今、何が必要ですか？」11月に投稿された動画で、プラボウォ大統領は視聴者に尋ねているようだ。
しかし、大統領の口が動いたり、目が瞬いたりする間、彼が発する言葉は、先月警察が摘発した、インドネシア20州で国民を騙した不正なディープフェイク詐欺の一部である。
このメッセージに引っかかった人々は、WhatsAppの番号に連絡し、25万～100万ルピア（15～60ドル）を「事務手数料」として支払うよう求められた が、結局支援は得られなかった。
昨年の選挙以来、専門家はディープフェイクの急増について警告してきた。ディープフェイクとは、音声、画像、動画が有名人のものであるように見せかけて、実は人工知能ツールを使った詐欺師の仕業であるものだ。
被害者は、このいたずらは非常に巧妙で、他の人も騙される危険にさらされていると話す。
「人々はもっと注意すべきです。賞品の誘惑に簡単に騙されないでください」と、著名な実業家のディープフェイク動画を見て詐欺師に20万ルピアを渡した56歳のアリアニさんは語った。
「お金が必要なのに、送金するように言われました。まるで直接話しているかのように、ビデオ通話までされました。」
昨年の大統領選挙戦では、ディープフェイクは候補者にとって有害かつ有益な誤情報を拡散する主要なツールとなった。
しかし今、その技術は現金を儲けようとする犯罪者の手に渡っている。
広く流通
AFPのファクトチェッカーは、プラボウォの動画の背後にあるアカウントが、副大統領ギブラン・ラカブミン・ラカを含むさまざまな著名人が登場するように見える同様の動画を数十本投稿していることを発見した。
これらの動画は、偽の資金援助も宣伝している。
警察は、詐欺で65ルピア（4,000ドル）を懐に入れた容疑者を逮捕したと、国家警察サイバー犯罪課長のヒマワン・バユ・アジ准将が2月に記者団に語った。
同氏は、警察がディープフェイク技術を使った別の詐欺に関与した2人目の人物を拘束したが、集めた金額は明らかにしなかったと述べた。
AFPファクトチェックの調査では、こうした動画の拡散は警察が発表した2つのアカウントよりもはるかに広範囲に及んでいたことが判明した。
元将軍として人気の大統領のディープフェイク動画は逮捕後もソーシャルメディア上で出回っており、TikTokには「プラボウォ、祝福を分かち合う」というハッシュタグが付けられた動画が数十本あった。
AFPの記者らは、プラボウォ氏が10月に大統領に就任して以来、少なくとも22のTikTokアカウントが同じ詐欺計画を宣伝していることを発見した。そのうちのいくつかは、同氏の最近の大統領就任に便乗しているようだ。
7万7000人以上のフォロワーを持つあるアカウントは、プラボウォ氏が資金援助を行っていると思われる捏造動画で750万回の視聴回数を記録した。
数千人のフォロワーを持つ別のアカウントは、1月以降だけで100本の動画をシェアしており、その大半は大統領が現金を提供するディープフェイク動画を取り上げている。
TikTokは、ディープフェイク詐欺動画の1つと関連アカウントを削除したと述べ、誤解を招く投稿を禁止する同プラットフォームのコミュニティガイドラインに違反する動画は今後も削除すると付け加えた。
Facebookの親会社Metaは、AFPのコメント要請に応じなかった。
AFPは、他の100以上のファクトチェック組織とともに、TikTokとMetaから報酬を受け、虚偽の情報が含まれている可能性のあるソーシャルメディアの投稿を検証している。
よりアクセスしやすく
インドネシアのファクトチェック組織Mafindoの共同創設者であるアリボウォ・サス ミト氏は、オンラインで広まっているディープフェイク詐欺が毎週のように発見されていると語った。
「昨年からAIツールがよりアクセスしやすく手頃な価格になったため、ディープフェイク動画が見られるようになりました」と同氏はAFPに語った。
著名人のディープフェイクを使った詐欺が増加しているようだ。近年、現金詐欺を目的とした巧妙ななりすましの標的となった著名人の中には、テクノロジー業界の億万長者イーロン・マスク氏やカナダのジャスティン・トルドー首相も含まれる。
アリボウォ氏は、彼のファクトチェッカーチームは、犯罪者が利用できる最新の技術を使って、こうした詐欺を暴くためにこれまで以上に懸命に取り組んでいると述べた。
「こうした動画の質は時間とともに向上している。偽の動画と本物の動画を見分けるのが難しくなっている」と同氏は付け加えた。
「問題はこうした詐欺の多さだ」