インドネシアの伝統的な黒い帽子とシャツを着たプラボウォ・スビアント大統領は、インスタグラムの動画でカメラに向かって、昨年の選挙後、国民にどう支援できるかを尋ねている。
「私から支援を受けていない人はいますか？ 今、何が必要ですか？」11月に投稿された動画で、プラボウォ大統領は視聴者に問いかけているようだ。
しかし、インドネシアの指導者の口が動いたり、目が瞬いたりする間、彼が発する言葉は、先月警察が摘発した、インドネシア20州で国民を騙した不正なディープフェイク詐欺の一部である。
このメッセージに引っかかった人々は、WhatsAppの番号に連絡し、支援を受けるために「事務手数料」として25万～100万ルピア（15～60ドル）を渡すよう求められたが、支援は実現しなかった。
昨年のインドネシア選挙以来、専門家はディープフェイクの急増について警告してきた。ディープフェイクとは、有名人の音声、画像、動画のように見えるが、実際には人工知能ツールを使った詐欺師の作品である。
被害者は、この偽物は非常に巧妙で、他の人も騙されやすいと述べている。
「人々はもっと注意する必要があります。賞品の誘惑に簡単に騙されないでください」と、インドネシアの著名な実業家のディープフェイク動画を見て詐欺師に20万ルピアを渡した56歳のアリヤニ氏は述べた。
「お金が必要なのに、送金するように言われました。まるで直接話しているかのように、ビデオ通話までされました。」
この東南アジアの国の大統領選挙中、ディープフェイクは候補者にとって有害かつ有益な誤情報を広める主要なツールとなった。
しかし今、その技術は現金を儲けようとする犯罪者の手に渡っている。
- 広範囲に拡散 -
AFPのファクトチェッカーは、プラボウォの動画の背後にあるアカウントが、インドネシアのギブラン・ラカブミン・ラカ副大統領を含むさまざまな著名人を映したように見える類似の動画を数十本投稿していることを発見した。
これらの動画は、偽の財政支援も宣伝している。
警察は、この詐欺で6500万ルピア（4000ドル）を懐に入れた容疑者を逮捕したと、インドネシア 国家サイバー犯罪ユニットのヒマワン・バユ・アジ局長が2月に記者団に語った。
彼によると、警察は、同じくディープフェイク技術を使った別の詐欺に関与した2人目の人物を拘束したが、集めた金額は明らかにしなかった。
AFPファクトチェックの調査では、このような動画の拡散は、警察が発表した2つのアカウントよりもはるかに広範囲に及んでいたことが判明した。
元将軍で人気の大統領のディープフェイク動画は逮捕後もソーシャルメディアで出回っており、TikTokには「プラボウォ、祝福を分かち合う」というハッシュタグが付けられた動画が数十本あった。
AFPの記者らが発見したところによると、プラボウォが10月に大統領に就任して以来、少なくとも22のTikTokアカウントが同じ詐欺計画を宣伝しており、そのうちのいくつかは彼の最近の大統領就任に便乗しているようだ。
7万7000人以上のフォロワーを持つあるアカウントは、プラボウォが明らかに財政支援を行っている偽の動画で750万回の視聴回数を記録した。
数千人のフォロワーを持つ別のアカウントは1月以降だけで100本の動画をシェアしており、そのほとんどは大統領が現金を提供するディープフェイク動画だ。
TikTokは、ディープフェイク詐欺動画の1つと関連アカウントを削除したと述べ、誤解を招く投稿を禁止するプラットフォームのコミュニティガイドラインに違反する動画は今後も削除すると付け加えた。
Facebookの親会社Metaは、AFPのコメント要請には応じなかった。
AFPは、他の100以上のファクトチェック組織とともに、TikTokとMetaから報酬を受け、虚偽の情報が含まれている可能性のあるソー シャルメディアの投稿を検証している。
- よりアクセスしやすく -
インドネシアのファクトチェック組織Mafindoの共同創設者であるアリボウォ・サスミト氏は、オンラインでの拡散が激しいため、彼のチームは毎週新しいディープフェイク詐欺を発見していると語った。
「AIツールがよりアクセスしやすく手頃な価格になったため、昨年からディープフェイク動画を目にするようになりました」と同氏はAFPに語った。
著名人のディープフェイクを使った詐欺が増加しているようだ。
テクノロジー業界の億万長者イーロン・マスク氏やカナダのジャスティン・トルドー首相は、近年、現金詐欺を目的とした巧妙ななりすましの標的となった一連の有名人の1人である。
アリボウォ氏は、彼のファクトチェッカーチームは、犯罪者が利用できる最新の技術を使用して、これらの詐欺を暴くためにこれまで以上に懸命に取り組んでいると述べた。
「これらのビデオの品質は時間の経過とともに向上していることがわかりました。偽のビデオと本物のビデオを区別することがより困難になっています」と彼は付け加えた。
「問題は、これらの詐欺の量です。」
sl-sty/jfx/cms/sco