Incident 1012: Un clone vocal d'une femme texane, utilisé dans une arnaque à la détresse ciblant son frère à Port Neches
Description: Jace Edgar, de Port Neches, au Texas, aurait reçu un appel téléphonique frauduleux utilisant un clonage vocal généré par l'IA pour imiter sa sœur en détresse. Croyant qu'elle avait eu un accident, Edgar a réagi avant de remarquer que l'appelant évitait les questions directes. Lorsqu'il a contacté sa sœur, elle était indemne et ignorait l'appel. Les autorités ont confirmé que cet incident s'inscrivait dans une tendance plus générale à la multiplication des escroqueries utilisant l'IA, et ont exhorté le public à rester vigilant et à éviter de partager des informations personnelles avec des inconnus.
Editor Notes: Reporting does not give Jayla's surname; database tagging links her with Jace Edgar in lieu of more information.
Entités
Voir toutes les entitésAlleged: Unknown voice cloning technology developers developed an AI system deployed by Scammers impersonating Jayla (sister of Jace Edgar) et Unknown scammers, which harmed Jace Edgar et Jayla (sister of Jace Edgar).
Système d'IA présumé impliqué: Unknown voice cloning technology
Statistiques d'incidents
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Rapports d'incidents
Chronologie du rapport
Loading...
PORT NECHES, Texas --- Un homme de Port Neches tire la sonnette d'alarme après avoir reçu un appel téléphonique effrayant utilisant l'intelligence artificielle pour cloner la voix de sa sœur.
Jace Edgar a déclaré avoir répondu à un appel pr…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?