Incidente 966: Ejecutivo de Ferrari es blanco de una estafa de inteligencia artificial deepfake que se hace pasar por el CEO Benedetto Vigna
Descripción: Un ejecutivo de Ferrari fue víctima de un deepfake generado por IA que suplantaba al director ejecutivo Benedetto Vigna en un supuesto intento de fraude. El estafador, usando WhatsApp y una voz clonada, afirmó que un acuerdo financiero urgente y secreto requería una acción inmediata. El ejecutivo sospechó tras detectar una ligera entonación artificial; la estafa fracasó cuando el ejecutivo probó a la persona que llamaba preguntándole por una recomendación reciente de un libro.
Editor Notes: The incident date of 07/16/2024 is an approximation. Reporting suggests it was on a Tuesday in July 2024 that the incident occurred.
Entidades
Ver todas las entidadesAlleged: Unknown deepfake technology developers y Unknown voice cloning technology developers developed an AI system deployed by Phishers , Scammers impersonating Benedetto Vigna y Unknown scammers, which harmed Unnamed Ferrari executive , Benedetto Vigna y Ferrari.
Sistemas de IA presuntamente implicados: Unknown deepfake app y Unknown voice cloning technology
Estadísticas de incidentes
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Informes del Incidente
Cronología de Informes
Loading...
El mundo es un lugar extraordinariamente complejo. Siento que recién nos hemos acostumbrado al concepto de que las imágenes sean retocadas con Photoshop, y ahora las voces y los videos falsificados por IA hacen que sea difícil confiar en al…
Loading...
El empleado de finanzas en Hong Kong no le pareció inusual la videollamada. Su director financiero, con sede en el Reino Unido, necesitaba la aprobación urgente de una adquisición confidencial, y varios colegas conocidos se unieron para dis…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Loading...

Deepfake Obama Introduction of Deepfakes
· 29 informes
Loading...

Poor Performance of Tesla Factory Robots
· 28 informes
Loading...

Wikipedia Vandalism Prevention Bot Loop
· 6 informes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Loading...

Deepfake Obama Introduction of Deepfakes
· 29 informes
Loading...

Poor Performance of Tesla Factory Robots
· 28 informes
Loading...

Wikipedia Vandalism Prevention Bot Loop
· 6 informes