概要: 2025年2月、コロラド州在住の女性が、娘の声を模倣した音声クローン詐欺の被害に遭いました。犯人は娘の声を模倣し、偽の誘拐を装いました。脅迫を受け、娘が危険にさらされていると思い込んだ彼女は、メキシコに2,000ドルを送金しました。詐欺師たちは生成AIを悪用して娘の声を模倣し、被害者の心理を操作しました。法執行機関は犯人の追跡や資金回収に成功しませんでした。
Editor Notes: Incident date note: Reporting states that the scam occurred on "a Monday evening in February [2025]"; the incident date of 02/10/2025 is a placeholder until the more precise date might be ascertained.
Alleged: Unknown voice cloning technology developers developed an AI system deployed by Unknown scammers operating in Mexico , Unknown scammers impersonating daughter of Linda Roan と Unknown scammers, which harmed Linda Roan , Daughter of Linda Roan と General public.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
2 月のある月曜日の夕方、リンダ・ローアンはスープを作っているときに携帯電話が鳴った。市内の番号からだったので、彼女は電話に出た。
「お母さん、私は大丈夫だけど、ひどいことが起きたの」と若い女性が泣きながら言った。「助けて」
ローアンはすぐにその声に気づいた。それは彼女の 3 人の成人した娘のうちの末っ子の声だった。
すると男性が電話に出た。彼はローアンの娘の名前を挙げ、これが彼女の母親かと尋ねた。男性は、娘が彼の麻薬取引を目撃したと言った。彼女は銃を見て叫び、買い手を怖がら…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents