インドネシアの伝統的な黒い帽子とシャツを着たプラボウォ・スビアント大統領は、インスタグラムの動画でカメラに向かって、昨年の選挙後、国民にどう支援できるかを尋ねている。
「私から支援を受けていない人はいますか？ 今、何が必要ですか？」11月に投稿された動画で、プラボウォ大統領は視聴者に問いかけているようだ。
しかし、インドネシアの指導者の口が動いたり、目が瞬いたりする間、彼が発する言葉は、先月警察が摘発した、インドネシア20州で国民を騙した不正なディープフェイク詐欺の一部である。
このメッセージに引っかかった人々は、WhatsAppの番号に連絡し、支援を受けるために「事務手数料」として25万～100万ルピア（15～60ドル）を渡すよう求められたが、支援は実現しなかった。
昨年のインドネシア選挙以来、専門家はディープフェイクの急増について警告してきた。ディープフェイクとは、有名人の音声、画像、動画のように見えるが、実際には人工知能ツールを使った詐欺師の作品である。
被害者は、この偽物は非常に巧妙で、他の人も騙されやすいと述べている。
「人々はもっと注意する必要があります。賞品の誘惑に簡単に騙されないでください」と、インドネシアの著名な実業家のディープフェイク動画を見て詐欺師に20万ルピアを渡した56歳のアリヤニ氏は述べた。
「お金が必要なのに、送金するように言われました。まるで直接話しているかのように、ビデオ通話までされました。」
この東南アジアの国の大統領選挙中、ディープフェイクは候補者にとって有害かつ有益な誤情報を広める主要なツールとなった。
しかし今、その技術は現金を儲けようとする犯罪者の手に渡っている。
- 広範囲に拡散 -
AFPのファクトチェッカーは、プラボウォ氏の動画の背後にあるアカウントが、インドネシアのギブラン・ラカブミン・ラカ副大統領を含むさまざまな著名人を映したように見える類似の動画を数十本投稿していることを発見した。
これらの動画は、偽の財政支援も宣伝している。
警察は、この詐欺で6500万ルピア（4000ドル）を懐に入れた容疑者を逮捕したと、インドネシア国家サイバー犯罪ユニットのヒマワン・バユ・アジ局長が2月に記者団に語った。
同局長によると、警察は、同じくディープフェイク技術を使った別の詐欺に関与した2人目の人物を拘束したが、集めた金額は明らかにしていない。
AFPファクトチェックの調査では、こうした動画の拡散は、警察が発表した2つのアカウントよりもはるかに広範囲に及んでいることが判明した。
人気の元将軍である大統領のディープフェイク動画は、逮捕後もソーシャルメディア上で出回っており、TikTokには「プラボウォ氏が祝福を分かち合う」というハッシュタグが付いた動画が数十本投稿されている。
AFPの記者らが調べたところ、プラボウォ氏が10月に就任して以来、少なくとも22のTikTokアカウントが同じ詐欺計画を宣伝しており、そのうちのいくつかは同氏の最近の大統領就任に便乗しているようだ。
7万7000人以上のフォロワーを持つあるアカウントは、プラボウォ氏が金銭援助を行っていると思われる捏造動画で750万回の視聴回数を記録した。
数千人のフォロワーを持つ別のアカウントは、1月以降だけで100本の動画をシェアしており、その大半は大統領が現金を提供するディープフェイク動画だ。
TikTokは、ディープフェイク詐欺動画の1つと関連アカウントを削除したと述べ、誤解を招く投稿を禁止するプラットフォームのコミュニティガイドラインに違反する動画は今後も削除すると付け加えた。
Facebookの親会社Metaは、AFPのコメント要請に応じなかった。
AFPは、他の100以上のファクトチェック組織とともに、虚偽の情報が含まれている可能性のあるソーシャルメディア投稿を検証するために、TikTokとMetaから報酬を得ている。
- よりアクセスしやすく -
インドネシアのファクトチェック組織マフィンドの共同創設者アリボウォ・サスミト氏は、オンラインでのディープフェイク詐欺が広まっているため、彼のチームは毎週のように新たなディープフェイク詐欺を発見していると語った。
「AIツールがよりアクセスしやすく、手頃な価格になったため、昨年からディープフェイク動画が見られるようになりました」と、同氏はAFPに語った。
著名人のディープフェイクを使った詐欺が増加しているようだ。
テクノロジー業界の億万長者イーロン・マスク氏やカナダのジャスティン・トルドー首相は、近年、現金詐欺を広めるために巧妙ななりすましの標的となった有名人の一人だ。
アリボウォ氏は、彼のファクトチェックチームは、犯罪者が利用できる最新のテクノロジーを使用して、これらの詐欺を暴くためにこれまで以上に懸命に取り組んでいると語った。
「これらの動画の品質が時間とともに向上していることに気付きました。偽の動画と本物の動画を区別することがより困難になっています」と、同氏は付け加えた。
「問題はこうした詐欺の多さです。」
sl-sty/jfx/cms/sco