Incidentes Asociados
Los anuncios de vídeo generados por IA que muestran la imagen de Taylor Swift respaldando un obsequio falso de utensilios de cocina de Le Creuset han engañado a algunos fanáticos para que compren la estafa, según informó el New York Times (https://www.nytimes.com/2024/01/ 09/tecnología/taylor-swift-le-creuset-ai-deepfake.html).
Si bien Swift puede ser fanática de Le Creuset, no tiene vínculos oficiales de marketing con la empresa. Pero los anuncios que impregnan Facebook y otras plataformas de redes sociales te harían pensar lo contrario.
La mujer que se ve en el vídeo promocional falso no es Swift ni siquiera una persona real. En cambio, se ha utilizado inteligencia artificial para replicar la voz y la apariencia del cantante y crear una réplica convincente conocida como "deepfake". Los estafadores crean este tipo de contenido sintético con software de aprendizaje automático para crear imágenes falsas de figuras públicas utilizando clips de vídeo y audio auténticos de ellas, que son abundantes y fáciles de conseguir en línea.
"Hola a todos, soy Taylor Swift", dice la réplica deepfake de Swift en el video. "Debido a un error en el embalaje, no podemos vender 3.000 juegos de utensilios de cocina Le Creuset. Así que se los regalaré a mis fieles seguidores".
La mujer generada por IA indica a los usuarios que hagan clic en un botón debajo del anuncio para completar una encuesta y que lo hagan inmediatamente "cuando se agoten los suministros".
No está claro quién está detrás de las estafas. Una cuenta de Facebook llamada "Las acciones más rentables" fue uno de los carteles de la estafa inspirada en Swift.
Le Creuset pidió disculpas a sus fanáticos de los utensilios de cocina que fueron engañados por el deepfake.
"Le Creuset no tiene ningún tipo de asociación con Taylor Swift. Eso es una estafa y estamos trabajando diligentemente para eliminar esas publicaciones", dijo la compañía en un comunicado a CBS MoneyWatch.
De hecho, Swift parece ser un fanático de los productos de la marca de utensilios de cocina de alta gama. Le Creuset compartió una imagen del documental de Netflix de Swift, "Miss Americana", que muestra a Swift en su cocina usando el horno holandés redondo de la marca, que se vende por hasta $625.
Le Creuset compartió una imagen de Swift usando un utensilio de cocina de un documental de Netflix.NETFLIX
Un representante de Swift no respondió de inmediato a la solicitud de comentarios de CBS MoneyWatch.
Sin duda, Swift no es la única celebridad objetivo de los estafadores de las redes sociales. A medida que la tecnología de inteligencia artificial se vuelve más sofisticada, este tipo de estafas deepfake van en aumento, [advirtió] el Better Business Bureau (https://www.bbb.org/article/scams/18549-scam-alert-celebrity-impersonations- get-more-sophisticated-with-ai-technology) el pasado mes de abril.
"Antes de realizar una compra, tómate un minuto para volver a examinar la publicación y la cuenta de redes sociales", dijo BBB en una publicación. "Lo más probable es que las fotos y los vídeos sean falsos. Si realiza una compra, perderá dinero (a menudo más de lo que esperaba) en un producto que no es de calidad o que no existe".
El actor Tom Hanks y la presentadora de CBS Mornings, Gayle King, han utilizado sus retratos para promocionar productos que no respaldan.
King volvió a publicar un vídeo falso relacionado con la pérdida de peso de una empresa llamada Artipet en su propia cuenta Instagram con una declaración que decía que de ninguna manera afiliada a la empresa o supuesto producto, y advirtiendo a sus seguidores que no "se dejen engañar por estos videos de IA".