Incident 1505: Des escrocs auraient utilisé la voix clonée par IA d'une fille pour escroquer une mère de la région de la baie de San Francisco en la faisant croire à un enlèvement.
Description: Deborah Del Mastro, de Martinez, en Californie, aurait transféré 5 400 dollars au Mexique après avoir été victime d'escrocs qui prétendaient faussement que sa fille Sarah avait été kidnappée et qui diffusaient ce qu'elle croyait être la voix paniquée de Sarah. L'intelligence artificielle aurait été utilisée pour imiter la voix de l'enfant lors d'un appel de cinq heures, faisant pression sur Mme Del Mastro pour qu'elle envoie de l'argent. Après avoir contacté sa fille et appris qu'elle était saine et sauve, la police de Martinez aurait ouvert une enquête.
Entités
Voir toutes les entitésAlleged: Deepfake technology developers et Synthetic audio generation technology developers developed an AI system deployed by Scammers et Fake kidnapping scammers, which harmed Deborah Del Mastro , Daughter of Deborah Del Mastro , Epistemic integrity , Victims of impersonation scams et Victims of fake kidnapping scammers.
Systèmes d'IA présumés impliqués: Deepfake technology et Synthetic audio generation technology
Statistiques d'incidents
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Rapports d'incidents
Chronologie du rapport
Loading...
MARTINEZ, Californie (KGO) – Une habitante de la région de la baie de San Francisco s'est fait dérober des milliers de dollars après que des escrocs ont utilisé l'intelligence artificielle pour imiter la voix de sa fille. Les autorités qual…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?