Description: A scammer in China used AI-generated deepfake technology to impersonate a businessman’s trusted friend in a video call, convincing him to transfer 4.3 million yuan ($612,000). The fraudster mimicked the friend’s face and voice, claiming another associate needed funds for a business transaction. Without verifying the transfer, the victim sent the money. He later realized the deception and contacted police, who managed to recover 3.4 million yuan.
Editor Notes: This incident is reported to have occurred sometime in April 2023 (04/15/2023 is an approximation).
Entidades
Ver todas las entidadesAlleged: Unknown deepfake technology developer y Unknown voice cloning technology developer developed an AI system deployed by scammers , Fraudsters y Scammers impersonating friend of Guo, which harmed Guo (surname of deepfake scam victim) , Friend of Guo (surname of deepfake scam victim) y General public of China.
Sistemas de IA presuntamente implicados: Unknown deepfake app y Unknown voice cloning technology
Estadísticas de incidentes
ID
992
Cantidad de informes
1
Fecha del Incidente
2023-04-15
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
PEKÍN – Un estafador en China utilizó inteligencia artificial (IA) para hacerse pasar por un amigo de confianza de un empresario y convencerlo de que le entregara millones de yuanes, según informaron las autoridades.
La víctima, cuyo apelli…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents

Chinese AI caught out by face in bus ad
· 24 informes

Robot kills worker at Volkswagen plant in Germany
· 27 informes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents

Chinese AI caught out by face in bus ad
· 24 informes

Robot kills worker at Volkswagen plant in Germany
· 27 informes