Incidentes Asociados
Un video manipulado del magnate minero y empresario australiano Andrew "Twiggy" Forrest en Facebook representa la más reciente adición a una serie de deepfakes que utilizan imágenes de figuras públicas en anuncios engañosos, erosionando la confianza en los medios.
La empresa de ciberseguridad Cybertrace alertó sobre el video de Forrest, que parece estar promocionando una plataforma falsa de comercio de criptomonedas.
Engaño con Deepfakes
El video apareció en Facebook, incitando a los usuarios a registrarse en una plataforma fraudulenta que promete generar miles de dólares diarios para "personas comunes". Los usuarios son dirigidos a un sitio llamado "Quantum AI", que, según Cybertrace, se ha hecho famoso por ser un centro de estafas y fraudes financieros.
El video alteró las acciones y gestos de Forrest en una charla informal organizada por la Fundación Rhodes en octubre de 2023. Cybertrace identificó el deepfake en Facebook el 27 de enero, donde una versión modificada por IA del multimillonario aparece promocionando una plataforma fraudulenta de comercio de criptomonedas.
Meta, la empresa matriz de Facebook e Instagram, implementó una prohibición de deepfakes a principios de 2020; sin embargo, los videos manipulados siguen causando estragos entre los usuarios desprevenidos de las plataformas de redes sociales. Forrest criticó duramente al gigante de las redes sociales por no hacer lo suficiente para prevenir las estafas.
El multimillonario enfrenta cargos penales contra Facebook por otra estafa publicitaria de criptomonedas que supuestamente explotó su imagen. Expresando su frustración, Forrest declaró:
"Facebook no hace nada; eso es precisamente lo que espero que aborden las acciones legales que inicié, para que las empresas de redes sociales rindan cuentas por la negligencia con la que gestionan sus plataformas publicitarias. Comencé el proceso legal hace casi dos años preocupado por los australianos inocentes que son víctimas de estafas en Facebook".
Aumento de las estafas con deepfakes
Michael Saylor, fundador de MicroStrategy, reveló recientemente que su equipo trabaja para eliminar alrededor de 80 videos falsificados diariamente, muchos de los cuales están diseñados para promover diversas estafas con Bitcoin. Además, han aparecido en varias redes sociales videos modificados que presentan a figuras conocidas como el multimillonario Elon Musk, fundador de Tesla y SpaceX.
Algunos de estos videos contienen enlaces a esquemas de inversión, productos no autorizados o sitios de comercio electrónico no relacionados que desaparecen después de unos días.
Los videos deepfake generados por inteligencia artificial (IA) se están convirtiendo poco a poco en una de las principales amenazas a la seguridad en todo el mundo. Los datos de Sumsub indicaron que la proporción de deepfakes en Norteamérica experimentó un aumento significativo entre 2022 y el primer trimestre de 2023.
En Estados Unidos, la proporción se disparó del 0,2 % al 2,6 %, mientras que en Canadá aumentó del 0,1 % al 4,6 %. Simultáneamente, los casos de falsificaciones impresas, que representaban entre el 4 % y el 5 % del total del fraude en 2022, se desplomaron hasta el 0 % en el último trimestre.
«Los proveedores de sistemas antifraude y de verificación que no trabajan constantemente para actualizar sus tecnologías de detección de deepfakes se están quedando atrás, poniendo en riesgo tanto a las empresas como a los usuarios. La actualización de la tecnología de detección de deepfakes es una parte esencial de los sistemas modernos y eficaces de verificación y antifraude».