Problème 2792
La technologie Deepfake deviendra une menace sérieuse pour les entreprises alors que notre monde adopte le travail à distance et la vérification d'identité en ligne en tant que norme.
Lorsqu'une vidéo a récemment circulé en ligne du président américain Biden semblant chanter tout en parlant d'inflation, des observateurs stupéfaits ont remis en question sa santé mentale. Avant le créateur du sketch, [Ali Al-Rikabi](https://nam11.safelinks.protection.outlook.com/?url=https%3A%2F%2Fapnews.com%2Farticle%2Ffact-check-biden-baby -shark-deepfake-412016518873&data=05%7C01%7Cjames.coker%40rxglobal.com%7C1a260271b929409bee5a08daf94dfc15%7C9274ee3f94254109a27f9fb15c10675d%7C0%7C0%7C638096410777169375%7CUnknown%7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0%3D%7C0%7C%7C%7C&sdata=EGJa%2BR2Ps7Repf7w9CK197CmMHZmNqMtlbRvB4VnWfA%3D&reserved=0 ) pourraient expliquer comment la vidéo a été réalisée, cependant, des centaines de milliers de personnes ont visionné le clip, et tout le monde n'a pas réalisé qu'il était faux.
La vidéo est issue de la technologie deepfake, un terme générique qui décrit les applications de sous-ensembles d'intelligence artificielle (IA). Dans ce cas, le producteur a combiné des séquences authentiques, un logiciel de synchronisation labiale et une voix synthétisée.
Bien que la vidéo puisse être amusante à première vue, le deepfake met en évidence un problème émergent : être capable de distinguer le faux contenu de la réalité et comment cela s'applique à nos identités en ligne - en particulier dans un monde qui devient de plus en plus éloigné.
Qu'est-ce que la technologie Deepfake ?
Les deepfakes sont des images, des vidéos ou des clips audio falsifiés créés grâce à l'application de technologies d'intelligence artificielle. Les algorithmes Deepfake AI peuvent générer des personnes et des animaux réalistes ou manipuler de vraies personnes pour qu'elles fassent ou disent des choses qu'elles n'ont pas faites en réalité.
Vous avez besoin d'une application mobile adaptée pour une création rapide de deepfake ou d'une paire d'algorithmes d'IA formés pour comparer, remplacer et synthétiser le contenu pour un contenu plus approfondi et trompeur. Comme des millions de vidéos, de photographies et de clips audio sont déjà sur le Web, il existe de nombreux lacs de données dont les modèles d'IA peuvent tirer des enseignements.
Au cours des cinq dernières années, les possibilités de deepfakes se sont étendues bien au-delà des limites du divertissement ou de la fausse pornographie. Les cybercriminels adoptent également la technologie pour des escroqueries élaborées, y compris la fraude et le vol d'identité.
Le rôle des deepfakes dans le vol d'identité
En ligne et aux yeux du public, des deepfakes de [célébrités sont utilisées](https://nam11.safelinks.protection.outlook.com/?url=https%3A%2F%2Fwww.wsj.com%2Farticles%2Fdeepfakes-of -celebrities-have-begun-appearing-in-ads-with-or-without-their-permission-11666692003&data=05%7C01%7Cjames.coker%40rxglobal.com%7C1a260271b929409bee5a08daf94dfc15%7C9274ee3f94254109a27f9fb15c10675d%7C0%7C0%7C638096410777169375%7CUnknown%7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0 %3D%7C0%7C%7C%7C&sdata=yYSOa82sPaaz9GWZul65DFz72daCOCrgBiOaaO%2FXYIQ%3D&reserved=0) dans le contenu publicitaire pour tout, de l'immobilier aux crypto-monnaies.
La loi n'a pas encore rattrapé ce dernier saut technologique. Alors que certaines créations deepfake sont défendues en les présentant comme de la «satire», il existe de réelles implications juridiques et éthiques de la technologie deepfake. Il n'y a qu'un petit pas entre l'utilisation consensuelle de l'image de quelqu'un et les reproductions non consensuelles, et les deepfakes n'ont pas besoin d'être techniquement parfaits pour avoir un impact substantiel et être vraiment crédibles.
Ingénierie sociale
Les criminels utiliseront l'ingénierie sociale pour prétendre être quelqu'un d'autre, usurpant souvent leur identité pour commettre un vol ou une fraude.
Les deepfakes poussent l'usurpation d'identité encore plus loin. Avec suffisamment de séquences et les bons outils, les attaquants pourraient développer des marqueurs d'identité synthétiques ou créer de fausses vidéos et clips audio vocaux. Nous avons observé cela en 2019 dans le cas du PDG d'une entreprise britannique, qui croyait parler à son patron et a transféré [243 000 $ à un fraudeur](https://nam11.safelinks.protection.outlook.com/?url=https% 3A%2F%2Fwww.wsj.com%2Farticles%2Ffraudsters-use-ai-to-imit-ceos-voice-in-unusual-cybercrime-case-11567157402&data=05%7C01%7Cjames.coker%40rxglobal.com%7C1a260271b929409bee5a08daf94dfc15% 7C9274ee3f94254109a27f9fb15c10675d%7C0%7C0%7C638096410777169375%7CUnknown%7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0%3D%7C0%7C%7C%7C&sdata=393BXx5LAoSXw%2BGdFxqvzNaL4KfLteFyO2tMSOQ644A%3D&reserved=0).
Bien que mener des escroqueries profondes en temps réel soit une perspective difficile, compte tenu de la vitesse de l'innovation technologique, il ne faudra peut-être pas longtemps avant que cela devienne notre réalité. Cependant, une authentification biométrique efficace pour vérifier les identités peut combler cette lacune dans nos défenses avant que l'identification des deepfakes ne devienne une véritable crise commerciale.
Criminalité financière, contournement de la connaissance de votre client
Une autre préoccupation de la technologie deepfake est l'abus potentiel des processus d'intégration de la connaissance de votre client (KYC).
Pour effectuer une vérification KYC, les entreprises exigent que les clients fournissent des documents d'identité physiques, une preuve d'adresse et une identification biométrique, entre autres preuves.
Les deepfakes pourraient être utilisés pour répondre à cette partie d'une demande KYC. Malheureusement, le reste peut être collecté via l'ingénierie sociale ou tiré de la grande quantité de données divulguées en ligne, souvent causées par des violations de données de tiers, dans lesquelles des téraoctets d'informations volées sont publiées chaque année.
Documentation profondément fausse
Séparément, un criminel sophistiqué peut être en mesure de fournir des documents contrefaits comme preuve d'identité. Il est déjà possible de créer de faux passeports, permis de conduire, etc. Pourtant, l'IA profonde pourrait faciliter la tromperie des contrôles d'authentification lorsque des documents d'identité sont demandés en ligne.
On estime déjà que la fraude d'identité synthétique coûte aux banques 6 milliards de dollars par an, et en tant que [Journaliste Finextra trouvé](https://nam11.safelinks.protection.outlook.com/?url=https%3A%2F%2Fwww.finextra.com %2Fblogposting%2F22795%2Fhow-i-used-deepfakes-to-bypass-security-verifications-in-a-bank&data=05%7C01%7Cjames.coker%40rxglobal.com%7C1a260271b929409bee5a08daf94dfc15%7C9274ee3f94254109a27f9fb15c10675d%7C0%7C0%7C638096410777169375%7CUnknown %7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0%3D%7C0%7C%7C%7C&sdata=xBoyif3m%2FV5nl%2FDDpqdhotSmJJjuwSnPkuunJmIagaQ%3D&reserved=0), une vérification bancaire suffisamment approfondie est déjà effectuée
Comment la vérification d'identité peut combattre le défi Deepfake Identity
Deepfake AI est une technologie prometteuse lorsqu'elle est appliquée à des applications éthiques. Cependant, à chaque innovation, les cybercriminels trouveront un moyen de l'exploiter.
Nous ne pouvons pas arrêter l'abus de nouveaux logiciels, mais nous pouvons lutter contre les stratagèmes criminels contrefaits et le vol d'identité avec les formes appropriées de technologie défensive - et celui qui se démarque est le logiciel de reconnaissance faciale.