概要: ブラジル警察は、モデルのジゼル・ブンチェンをはじめとする著名人のAI生成とされるディープフェイク動画をインスタグラム広告に使用し、偽の景品やスキンケア商品を宣伝した容疑で、4人の容疑者を逮捕したと報じられている。この詐欺行為は少なくとも2024年8月から行われており、2000万レアル（390万ドル）を超える不審な資金を生み出したとされている。被害者は少額の損失を被ったとされ、多くの場合報告されておらず、捜査官が「統計的免責」と呼ぶ状況を生み出していた。
Editor Notes: Timeline notes: This represents an ongoing scam that reportedly ran from August 2024 to October 2025. The incident ID date of 10/01/2025 marks the reported end of the scam when Brazilian authorities arrested the suspects behind the operation.
Alleged: Meta , Unknown deepfake technology developers と Unknown voice cloning technology developers developed an AI system deployed by Unidentified Brazilian fraud group (arrested in Rio Grande do Sul) と Unknown scammers operating Instagram ad accounts, which harmed General public of Brazil , Brazilian consumers defrauded via Instagram ads , Gisele Bündchen , Angélica Huck , Juliette Freire Feitosa , Maisa Silva と Sabrina Sato.
関与が疑われるAIシステム: Unknown deepfake technology , Unknown voice cloning technology , Meta Platforms , Instagram と Social media
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
リオグランデ・ド・スル州警察は、今週水曜日（1）、女優兼モデルのジゼル・ブンチェンを偽造品の広告塔として利用した、人工知能（AI）を用いたディープフェイク動画の作成を含む巧妙な詐欺計画に対し、大規模な捜査を開始しました。
「ジャングルモード作戦」は、2,000万レアル以上を詐取したこの電子詐欺に関与した犯罪組織を壊滅させるために開始されました。
主な詐欺行為は、ディープフェイク技術を用いてモデルのジゼル・ブンチェンをはじめとする著名人の偽動画を作成し、架空の商品を宣伝して被害…
Loading...
警察の捜査によると、ブラジルで、スーパーモデルのジゼル・ブンチェンをはじめとする著名人のディープフェイクを使ったインスタグラム広告を利用していた詐欺容疑者グループが、オンライン詐欺で数百万ドルを稼いだ模様だ。
当局は今週、この計画に関与した容疑者4人を逮捕し、連邦マネーロンダリング対策機関（COAF）が特定した2000万レアル（390万ドル）以上の不審資金を発見し、5州で資産を凍結した。
この作戦は、著名人の画像や動画をオンライン詐欺に利用するために人工知能（AI）ツールが使…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents