概要: 2025年2月、コロラド州在住の女性が、娘の声を模倣した音声クローン詐欺の被害に遭いました。犯人は娘の声を模倣し、偽の誘拐を装いました。脅迫を受け、娘が危険にさらされていると思い込んだ彼女は、メキシコに2,000ドルを送金しました。詐欺師たちは生成AIを悪用して娘の声を模倣し、被害者の心理を操作しました。法執行機関は犯人の追跡や資金回収に成功しませんでした。
Editor Notes: Incident date note: Reporting states that the scam occurred on "a Monday evening in February [2025]"; the incident date of 02/10/2025 is a placeholder until the more precise date might be ascertained.
Alleged: Unknown voice cloning technology developer developed an AI system deployed by scammers , Fraudsters , Unknown scammers operating in Mexico と Unknown scammers impersonating daughter of Linda Roan, which harmed Linda Roan , Daughter of Linda Roan と General public.
インシデントのステータス
インシデントID
1008
レポート数
1
インシデント発生日
2025-02-10
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
2 月のある月曜日の夕方、リンダ・ローアンはスープを作っているときに携帯電話が鳴った。市内の番号からだったので、彼女は電話に出た。
「お母さん、私は大丈夫だけど、ひどいことが起きたの」と若い女性が泣きながら言った。「助けて」
ローアンはすぐにその声に気づいた。それは彼女の 3 人の成人した娘のうちの末っ子の声だった。
すると男性が電話に出た。彼はローアンの娘の名前を挙げ、これが彼女の母親かと尋ねた。男性は、娘が彼の麻薬取引を目撃したと言った。彼女は銃を見て叫び、買い手を怖がら…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧 します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents

Uber AV Killed Pedestrian in Arizona
· 25 レポート
Security Robot Rolls Over Child in Mall
· 27 レポート

Nuclear False Alarm
· 27 レポート
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents

Uber AV Killed Pedestrian in Arizona
· 25 レポート
Security Robot Rolls Over Child in Mall
· 27 レポート

Nuclear False Alarm
· 27 レポート