概要: ヒューストン在住の女性2人が、信頼できる友人を装ったAI生成動画を使った詐欺の標的になったと報告しました。ディープフェイクとされるアバターは、ソーシャルメディアやメッセージアプリを通じてアクセスコードの入手や不正販売の促進に利用されていたと報じられています。被害者はアカウントの制御を失い、なりすまし被害に遭った人物の友人たちは、動画が本物だと信じて送金したと報告されています。
Editor Notes: Timeline note: First public report (that was found) appeared on 09/23/2024; underlying scam likely occurred days or weeks earlier. This incident was added to the database on 05/17/2025.
Alleged: Unknown deepfake technology developer と Unknown voice cloning technology developer developed an AI system deployed by Unknown scammers と Unknown fraudsters, which harmed Stacey Svegliato , Sara Sandlin , General public と General public in Houston.
関与が疑われるAIシステム: Unknown deepfake technology , Unknown voice cloning technology と Social media platforms
インシデントのステータス
インシデントID
1065
レポート数
1
インシデント発生日
2024-09-23
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
ヒューストン発 ― 詐欺師が人工知能(AI)を使って偽動画を作成し、金銭を騙し取ろうとしていることについて、私たちは以前から警告してきました。しかし、もしあなたの友人にそっくりなディープフェイク動画があったら、見分けられるでしょうか?
ヒューストン在住の女性2人が、AIが生成した友人の動画に騙されたと訴えています。そして、彼女たちの映像は、さらに別の人を騙すためのディープフェイク動画の作成に使われたのです。
「信じられない。本当に腹が立ちました」とステイシー・スヴェグリアート…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents