Incidentes Asociados
Noticias CCTV: Recientemente, el Tribunal Popular del Distrito de Xuanwu, Nanjing, juzgó un caso de fraude de "cambio de rostro con IA". El acusado, Fu, utilizó más de 1,95 millones de datos personales de ciudadanos y un software de cambio de rostro con IA, obtenido ilegalmente, para acceder a la cuenta de pago de la víctima y pasar su tarjeta bancaria para realizar compras.
Hombre invade cuentas financieras de otras personas mediante "cambio de rostro con IA"
Tras una investigación, Fu obtuvo ilegalmente más de 1,95 millones de datos personales de ciudadanos mediante compras en línea y luego utilizó dichos datos para acceder a las cuentas de pago de plataformas financieras de 23 víctimas mediante un software de cambio de rostro con IA. Entre ellas, cambió ilegalmente la contraseña de pago y vinculó el número de teléfono móvil de cinco personas, utilizó la tarjeta bancaria vinculada a la cuenta de pago de una persona y compró dos teléfonos móviles por un total de 15.996 RMB.
** Zhang Haiyue, Fiscal Adjunto de la Fiscalía Popular del Distrito de Xuanwu, Ciudad de Nanjing, Provincia de Jiangsu: **Mediante la fusión de tecnologías, la IA genera un video dinámico, con movimientos de la boca a izquierda y derecha. Algunos videos financieros, por ejemplo, pueden ejecutar comandos al iniciar sesión, lo que permite vulnerar las defensas de las plataformas de pago financiero.
Durante este período, Fu intentó usar la IA para cambiar el rostro y vulnerar el sistema de autenticación de reconocimiento facial de varias plataformas de pago financiero, pero solo lo logró en una.
** Xu Jia, Fiscal de la Fiscalía Popular del Distrito de Xuanwu, Ciudad de Nanjing, Provincia de Jiangsu: **Siguió probando varias plataformas, pero es posible que otras presentaran algunas vulnerabilidades debido al estricto sistema de control de riesgos.
[Nanjing, Jiangsu] Hombre condenado a 4 años y 6 meses por múltiples delitos
La fiscalía consideró que la conducta de Fu no solo constituyó un delito penal, sino que también perjudicó gravemente el interés público, por lo que presentó una demanda civil incidental por interés público. En octubre de 2024, el tribunal condenó a Fu a 4 años y 6 meses de prisión por violación de datos personales y fraude con tarjetas de crédito. Fu se declaró culpable. Además, en respuesta a los problemas de riesgo técnico existentes en una plataforma de pagos financieros expuestos en este caso, la fiscalía emitió rápidamente un recordatorio de riesgo legal. Actualmente, la plataforma de pagos financieros ha completado la rectificación.
**Xu Jia: **Este caso se debe a que, con solo rozar la cara, se puede cambiar la contraseña en la plataforma. Si existe una capa adicional de autenticación de identidad, no hay forma de lograr el cambio. No se han detectado más delitos mediante el intercambio de rostros con IA.
¿Puede el "cambio de rostro con IA" eludir la defensa del reconocimiento facial?
Con la continua mejora de las tecnologías de IA para el cambio de rostro, la falsificación de identidad y otras, ¿es suficientemente segura la autenticación de identidad mediante reconocimiento facial?
**Con permiso del Director del Centro de Investigación de Economía Digital e Innovación Legal de la Universidad de Economía y Comercio Exterior: **Los expertos en ciberseguridad afirmamos que ninguna red es siempre segura, y que cada actualización e iteración puede traer nuevas vulnerabilidades.
Mejora de la fiabilidad del reconocimiento facial mediante la gobernanza de la IA
Aunque las vulnerabilidades son inevitables, no hay que alarmarse. Los riesgos que conlleva la tecnología pueden resolverse mediante el desarrollo de la propia tecnología. Mediante la gobernanza de la IA, se puede resolver el problema de los ataques de reconocimiento facial que enfrentamos.
**Zhu Meng, experto en seguridad de la IA: **De hecho, la tasa de detección de la tecnología punta en la industria supera el 95%, y ha sido capaz de responder a estos riesgos de la IA en la práctica. Por ejemplo, al mirar en una dirección, ambos ojos se dirigen hacia la izquierda o hacia la derecha, pero la IA generada puede permitir que ambos ojos miren desde dos ángulos.
Los expertos explicaron que, actualmente, algunas unidades que utilizan tecnología de reconocimiento facial han adoptado procedimientos similares de identificación anti-falsificación para mejorar la fiabilidad de los sistemas de reconocimiento facial.
**He Yanzhe, subdirector del Laboratorio de Evaluación del Centro de Investigación de Ciberseguridad del Instituto de Normalización de Tecnología Electrónica de China:**Por ejemplo, algunos teléfonos inteligentes de última generación, al realizar una videollamada, tienen una función que detecta si el rostro del otro es falso. De hecho, ya se han aplicado algunas tecnologías de este tipo.
Las unidades que utilizan reconocimiento facial deberían contar con medidas de seguridad más estrictas
Los expertos creen que, además de mejorar constantemente los medios técnicos y las capacidades de identificación anti-falsificación, la protección de la información personal sigue siendo fundamental. Por un lado, la ciudadanía debería ser más consciente de la autoprevención y evitar revelar información personal a voluntad; por otro lado, las unidades que utilizan reconocimiento facial también deberían adoptar medidas de seguridad más estrictas.