Incidents associés
CCTV News : Récemment, le tribunal populaire du district de Xuanwu, à Nanjing, a jugé une affaire de fraude par « changement de visage par IA ». L'accusé, Fu, a utilisé plus de 1,95 million d'informations personnelles de citoyens et un logiciel de changement de visage par IA obtenu illégalement pour se connecter au compte de paiement de la victime et utiliser sa carte bancaire pour effectuer des paiements.
Un homme s'infiltre dans les comptes financiers d'autres personnes grâce à un « changement de visage par IA »
Après enquête, Fu a obtenu illégalement plus de 1,95 million d'informations personnelles de citoyens lors d'achats en ligne, puis les a utilisées pour se connecter aux comptes de paiement de 23 victimes sur des plateformes financières grâce à un logiciel de changement de visage par IA. Parmi ces opérations, il a modifié illégalement le mot de passe de paiement et le numéro de téléphone portable de cinq personnes, utilisé la carte bancaire associée au compte de paiement d'une personne et acheté deux téléphones portables, pour un montant total de 15 996 RMB.
** Zhang Haiyue, procureur adjoint du parquet populaire du district de Xuanwu, ville de Nanjing, province du Jiangsu : **Grâce à la fusion technologique, l'IA génère une vidéo dynamique, oscillant à gauche, à droite et à la bouche. Certaines vidéos financières peuvent ainsi exécuter des commandes lors de la connexion des utilisateurs, ce qui permet de percer les défenses des plateformes de paiement financier.
Pendant cette période, Fu a tenté d'utiliser le changement de visage par IA pour percer le système d'authentification par reconnaissance faciale de plusieurs plateformes de paiement financier, mais n'a réussi qu'avec une seule plateforme.
** Xu Jia, procureur du parquet populaire du district de Xuanwu, ville de Nanjing, province du Jiangsu : **Il a essayé à plusieurs reprises, mais d'autres plateformes présentaient peut-être des failles en raison du système de contrôle des risques plus strict.
[Nanjing, Jiangsu] Un homme condamné à 4 ans et 6 mois de prison pour de multiples délits
Le parquet a estimé que le comportement de Fu constituait non seulement une infraction pénale, mais portait également gravement atteinte à l'intérêt public et a engagé une action civile d'intérêt public. En octobre 2024, le tribunal a condamné Fu à 4 ans et 6 mois de prison pour violation des données personnelles de citoyens et fraude à la carte bancaire. Fu a plaidé coupable et a plaidé coupable. De plus, en réponse aux problèmes de risque technique présents sur une plateforme de paiement financier révélés dans cette affaire, le parquet a rapidement émis une lettre de rappel des risques juridiques. À l'heure actuelle, la plateforme de paiement financier a finalisé la rectification.
Xu Jia : Cette affaire est due au fait qu'un simple effleurement du visage permet d'accéder à la plateforme et de modifier le mot de passe. S'il existe une couche d'authentification supplémentaire, il n'y a aucun moyen de procéder à la modification. Aucune autre infraction liée à l'échange de visage par IA n'a été constatée.
** L'échange de visage par IA peut-il contourner la ligne de défense de la reconnaissance faciale ? **
Avec l'amélioration constante des technologies de changement de visage, de falsification d'identité et autres, l'authentification par reconnaissance faciale est-elle suffisamment sûre ?
**Autorisation du directeur du Centre de recherche sur l'économie numérique et l'innovation juridique de l'Université d'économie et de commerce extérieur : **Les experts en cybersécurité affirment qu'aucun réseau n'est toujours sécurisé et que chaque mise à jour et itération peut entraîner de nouvelles vulnérabilités.
Améliorer la fiabilité de la reconnaissance faciale grâce à la gouvernance de l'IA
Bien que les vulnérabilités soient inévitables, il n'y a pas lieu de paniquer. Les risques liés à la technologie peuvent être résolus par son développement. Grâce à la gouvernance de l'IA, le problème des attaques de reconnaissance faciale auquel nous sommes confrontés peut être résolu.
**Zhu Meng, spécialiste de la sécurité de l'IA : **En réalité, le taux de détection des technologies de pointe du secteur dépasse 95 %, et il a su réagir concrètement à ces risques liés à l'IA. Par exemple, lorsque l'on regarde dans une direction, nos deux yeux regardent vers la gauche ou vers la droite, tandis que l'IA peut les faire regarder sous deux angles.
Les experts ont indiqué qu'actuellement, certaines unités utilisant la technologie de reconnaissance faciale ont adopté des procédures d'identification anti-contrefaçon similaires afin d'améliorer la fiabilité des systèmes de reconnaissance faciale.
He Yanzhe, directeur adjoint du laboratoire d'évaluation du Centre de recherche en cybersécurité de l'Institut chinois de normalisation des technologies électroniques : Par exemple, un smartphone récent, lors d'un appel vidéo, dispose d'une fonction permettant de savoir si l'identification du visage opposé est falsifiée. De telles technologies ont d'ailleurs été utilisées.
Les appareils utilisant la reconnaissance faciale devraient être dotés de mesures de sécurité plus strictes.
Les experts estiment qu'outre l'amélioration constante des moyens techniques et le renforcement des capacités d'identification anti-contrefaçon, la protection des données personnelles reste un élément essentiel. D'une part, les citoyens doivent être plus sensibilisés à l'auto-prévention et éviter de divulguer des informations personnelles à leur guise ; d'autre part, les appareils utilisant la reconnaissance faciale devraient également adopter des mesures de sécurité plus strictes.