警察の捜査によると、ブラジルで、スーパーモデルのジゼル・ブンチェンをはじめとする著名人のディープフェイクを使ったインスタグラム広告を利用していた詐欺容疑者グループが、オンライン詐欺で数百万ドルを稼いだ模様だ。
当局は今週、この計画に関与した容疑者4人を逮捕し、連邦マネーロンダリング対策機関（COAF）が特定した2000万レアル（390万ドル）以上の不審資金を発見し、5州で資産を凍結した。
この作戦は、著名人の画像や動画をオンライン詐欺に利用するために人工知能（AI）ツールが使 用されるケースが増えていることに対抗する、ブラジルにおける初の試みの一つとなる。
ブラジルの最高裁判所は6月、ユーザーが投稿した違法な広告について、裁判所の命令がなくても迅速にコンテンツを削除しなかった場合、ソーシャルメディアプラットフォームは責任を問われる可能性があるとの判決を下した。
Instagramを運営するMeta（META.O、新しいタブで開く）は、同社のポリシーでは「著名人を欺いて人々を騙そうとする広告」を禁止しており、そのような広告は「発見次第」削除すると述べた。同社は声明で、「セレブを騙した広告を検出するための専門システムを導入し、訓練を受けた審査チームに多額の投資を行い、詐欺を回避するためのヒントを提供し、潜在的な違反を報告するためのツールを提供している」と述べた。
ブンチェン氏のチームの広報担当者は、消費者に対し、有名人を起用した広告における異常な割引には注意し、ブランドや有名人の公式チャンネルを通じてオファーの真偽を確認し、詐欺の可能性がある場合は当局に通報するよう勧告した。
南部リオグランデ・ド・スル州の警察捜査官が今週発表した捜査は、2024年8月に開始された。被害者が、ブンチェン氏がスキンケア製品を宣伝する改変された動画を表示するインスタグラム広告に騙されたと訴えたことがきっかけだった。
別の広告では、スーパーモデルのブンチェン氏の写真を使ってスーツケースをプレゼントすると約束し、購入者は実際には届かない商品の送料を負担する形になっていた。
リオグランデ・ド・スル州のサイバー犯罪対策責任者であるエイベルト・モレイラ・ネト氏はロ イター通信に対し、「この犯罪グループは、他の有名人のディープフェイクや偽の賭博プラットフォームなど、一連の詐欺行為を行っていたことが判明した」と述べた。
捜査当局はマネーロンダリングとオンライン詐欺の容疑で捜査を進めている。被害者の大半は少額、通常は100レアル（約19ドル）以下の被害に遭い、犯罪を報告しなかったと彼らは指摘した。
「このことが、犯罪者が一種の『統計的免責』を享受するという、奇妙な状況を生み出しました。彼らはほとんどの人が報告しないことを知っていたので、恐れることなく大規模な犯罪を遂行したのです」と、サイバー犯罪対策課のイサドラ・ガリアン氏は声明で述べた。