Problema 2792
La tecnología deepfake se convertirá en una seria amenaza para las empresas a medida que nuestro mundo adopte el trabajo remoto y la verificación de identidad en línea como estándar.
Cuando recientemente circuló en línea un video del presidente de los Estados Unidos, Biden, que parecía comenzar a cantar mientras hablaba sobre la inflación, los espectadores atónitos cuestionaron su cordura. Antes del creador del sketch, [Ali Al-Rikabi](https://nam11.safelinks.protection.outlook.com/?url=https%3A%2F%2Fapnews.com%2Farticle%2Ffact-check-biden-baby -shark-deepfake-412016518873&data=05%7C01%7Cjames.coker%40rxglobal.com%7C1a260271b929409bee5a08daf94dfc15%7C9274ee3f94254109a27f9fb15c10675d%7C0%7C0%7C638096410777169375%7CUnknown%7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0%3D%7C0%7C%7C%7C&sdata=EGJa%2BR2Ps7Repf7w9CK197CmMHZmNqMtlbRvB4VnWfA%3D&reserved=0 ) podría explicar cómo se hizo el video, sin embargo, cientos de miles de personas vieron el clip, y no todos se dieron cuenta de que era falso.
El video fue el resultado de la tecnología deepfake, un término general que describe aplicaciones de subconjuntos de inteligencia artificial (IA). En este caso, el productor combinó imágenes genuinas, software de sincronización de labios y audio de voz sintetizado.
Si bien el video puede ser divertido a primera vista, el deepfake destaca un problema emergente: poder distinguir el contenido falso de la realidad y cómo esto se aplica a nuestras identidades en línea, especialmente en un mundo que se está volviendo cada vez más remoto.
¿Qué es la tecnología Deepfake?
Deepfakes son imágenes, videos o clips de audio falsificados creados mediante la aplicación de tecnologías de IA. Los algoritmos de IA de Deepfake pueden generar personas y animales reales o manipular a personas reales para que hagan o digan cosas que en realidad no hacen.
Necesita una aplicación móvil adecuada para la creación rápida de deepfakes o un par de algoritmos de IA capacitados para comparar, reemplazar y sintetizar contenido para obtener contenido más detallado y engañoso. Como millones de videos, fotografías y clips de audio ya están en la web, hay mucho material de lago de datos para que los modelos de IA aprendan.
En los últimos cinco años, las posibilidades de las falsificaciones profundas se han expandido mucho más allá de los límites del entretenimiento o la pornografía falsa. Los ciberdelincuentes también están adoptando la tecnología para estafas elaboradas, incluido el fraude y el robo de identidad.
El papel de los deepfakes en el robo de identidad
En línea y a la vista del público, se utilizan deepfakes de [celebridades](https://nam11.safelinks.protection.outlook.com/?url=https%3A%2F%2Fwww.wsj.com%2Farticles%2Fdeepfakes-of -celebrities-have-begun-appearing-in-ads-with-or-without-their-permission-11666692003&data=05%7C01%7Cjames.coker%40rxglobal.com%7C1a260271b929409bee5a08daf94dfc15%7C9274ee3f94254109a27f9fb15c10675d%7C0%7C0%7C638096410777169375%7CUnknown%7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0 %3D%7C0%7C%7C%7C&sdata=yYSOa82sPaaz9GWZul65DFz72daCOCrgBiOaaO%2FXYIQ%3D&reserved=0) en contenido publicitario para todo, desde bienes raíces hasta criptomonedas.
La ley aún no se ha puesto al día con este último salto tecnológico. Si bien algunas creaciones deepfake se defienden retratándolas como "sátira", existen implicaciones legales y éticas reales de la tecnología deepfake. Es solo un pequeño salto del uso consensuado de la imagen de alguien a las reproducciones no consensuadas, y los deepfakes no tienen que ser técnicamente perfectos para tener un impacto sustancial y ser verdaderamente creíbles.
Ingeniería social
Los delincuentes utilizarán la ingeniería social para hacerse pasar por otra persona, a menudo asumiendo su identidad para realizar robos o cometer fraude.
Deepfakes lleva la suplantación de identidad un paso más allá sin precedentes. Con suficientes imágenes y las herramientas adecuadas, los atacantes podrían desarrollar marcadores de identidad sintéticos o crear videos falsos y clips de audio de voz. Observamos esto en 2019 en el caso del director general de una empresa del Reino Unido, que creyó que estaba hablando con su jefe y transfirió [$243,000 a un estafador](https://nam11.safelinks.protection.outlook.com/?url=https% 3A%2F%2Fwww.wsj.com%2Farticles%2Ffraudsters-use-ai-to-mimic-ceos-voice-in-inusual-cybercrime-case-11567157402&data=05%7C01%7Cjames.coker%40rxglobal.com%7C1a260271b929409bee5a08daf%4dfc15 7C9274ee3f94254109a27f9fb15c10675d%7C0%7C0%7C638096410777169375%7CUnknown%7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0%3D%7C0%7C%7C%7C&sdata=393BXx5LAoSXw%2BGdFxqvzNaL4KfLteFyO2tMSOQ644A%3D&reserved=0).
Si bien realizar estafas deepfake en tiempo real es una perspectiva desafiante, considerando la velocidad de la innovación tecnológica, es posible que no pase mucho tiempo antes de que esta sea nuestra realidad. Sin embargo, la autenticación biométrica efectiva para verificar identidades puede cerrar esta brecha en nuestras defensas antes de que identificar falsificaciones profundas se convierta en una verdadera crisis comercial.
Delitos financieros, pasando por alto Know Your Customer
Otra preocupación de la tecnología deepfake es el posible abuso de los procesos de incorporación de know-your-customer (KYC).
Para realizar una verificación KYC, las empresas requieren que los clientes proporcionen documentos de identificación físicos, prueba de domicilio e identificación biométrica, entre otras pruebas.
Deepfakes podría usarse para cumplir con esta parte de una demanda de KYC. Desafortunadamente, el resto se puede recopilar a través de la ingeniería social o tomarse de la gran cantidad de datos filtrados en línea, a menudo causados por filtraciones de datos de terceros, en las que se liberan terabytes de información robada cada año.
Documentación profundamente falsa
Por otra parte, un delincuente sofisticado puede proporcionar documentos falsificados como prueba de identidad. Ya es posible crear pasaportes falsos, licencias de conducir y más. Aún así, la IA profunda podría facilitar el engaño de los controles de autenticación cuando se solicitan documentos de identificación en línea.
Ya se estima que el fraude de identificación sintética le cuesta a los bancos $ 6 mil millones anuales, y como [encontró un periodista de Finextra] (https://nam11.safelinks.protection.outlook.com/?url=https%3A%2F%2Fwww.finextra.com %2Fblogposting%2F22795%2Fhow-i-used-deepfakes-to-bypass-security-verifications-in-a-bank&data=05%7C01%7Cjames.coker%40rxglobal.com%7C1a260271b929409bee5a08daf94dfc15%7C9274ee3f94254109a27f9fb15c10675d%7C0%7C0%7C638096410777169375%7CUnknown %7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0%3D%7C0%7C%7C%7C&sdata=xBoyif3m%2FV5nl%2FDDpqdhotSmJJjuwSnPkuunJmIagaQ%3D&reservado la tecnología ya es lo suficientemente sofisticada como para aprobar cheques bancarios profundos.
Cómo la verificación de identidad puede combatir el desafío de la identidad falsa profunda
Deepfake AI es una tecnología prometedora cuando se aplica a aplicaciones éticas. Sin embargo, con cada innovación, los ciberdelincuentes encontrarán una manera de explotarla.
No podemos detener el abuso del nuevo software, pero podemos combatir los esquemas criminales falsificados y el robo de identidad con las formas adecuadas de tecnología defensiva, y una que se destaca es el software de reconocimiento facial.