Un anuncio que apareció en miles de feeds de Facebook este verano presentaba un video alterado de la secretaria de prensa de la Casa Blanca, Karoline Leavitt, en una conferencia de prensa habitual. En él, parecía decir que los estadounidenses podían solicitar un cheque de ayuda de $5,000 en un sitio web oficial del gobierno. Una flecha que apareció entonces conducía a un anunciante llamado Get Covered Today.
Anuncios similares mostraban videos inventados de los senadores Bernie Sanders, de Vermont, y Elizabeth Warren, de Massachusetts, prometiendo reembolsos similares que no existían. "Esto no es un truco", dice la imitación de la Sra. Warren.
De hecho, lo era.
Aun así, la empresa detrás de los anuncios y otras similares se encontraban entre los principales anunciantes políticos en Facebook, según un análisis del Proyecto de Transparencia Tecnológica (https://www.techtransparencyproject.org/articles/meta-awash-in-deepfake-scam-ads), una organización sin fines de lucro dedicada a exigir responsabilidades a las grandes empresas tecnológicas.
Los anuncios son una parte lucrativa de los ingresos publicitarios de Facebook que, según los investigadores del proyecto y otros, ha llevado a la compañía a ignorar una avalancha de contenido engañoso o de baja calidad, spam y, en algunos casos, fraude flagrante en la plataforma.
"Meta es muy consciente de este tipo de estafas", declaró Katie A. Paul, directora del Proyecto de Transparencia Tecnológica. "Simplemente no les importó".
En un informe publicado el miércoles, el proyecto identificó a 63 anunciantes que, según diversos indicadores, han empleado prácticas engañosas o fraudulentas. Representan aproximadamente uno de cada cinco de los 300 anunciantes que más gastan en publicidad política o social en la plataforma.
En conjunto, compraron casi 150.000 anuncios, gastando casi 49 millones de dólares en los últimos siete años, según datos de la biblioteca de anuncios de Facebook.
Los anuncios de los 63 anunciantes ya habían sido eliminados por infringir las políticas de Facebook, lo que significa que sus prácticas engañosas no eran desconocidas. Meta ha suspendido algunos de ellos, pero más de la mitad pudo seguir publicando nuevos anuncios esta semana. El análisis sugiere que, incluso cuando Facebook toma medidas, se ha beneficiado de los anunciantes que intentan estafar a sus usuarios.
"Lo único peor que estos videos deepfake de IA que se usan para estafar a los estadounidenses es que Meta gana decenas de millones de dólares con esos anuncios fraudulentos", declaró la senadora Warren en un comunicado sobre la suplantación de su identidad.
Añadió: "Necesitamos medidas de seguridad rigurosas para proteger a los consumidores en línea".
Facebook, propiedad de Meta, prohíbe la publicidad que utilice "prácticas engañosas o confusas identificadas, incluyendo estafas para obtener dinero o acceder a información personal". Tiene normas explícitas contra las suplantaciones de identidad, y finalmente eliminó el video de la Sra. Leavitt, aunque no todos los demás.
En un comunicado, la compañía afirmó que aplicaba rigurosamente sus normas (https://transparency.meta.com/policies/ad-standards/fraud-scams/fraud-scams-deceptive-practices) e invertiría en la creación de nuevas defensas técnicas contra lo que denominó un problema que afecta a toda la industria. "Los estafadores son implacables", afirmaba el comunicado, "y constantemente evolucionan sus tácticas para intentar evadir la detección".
Facebook ha tenido que lidiar durante mucho tiempo con las críticas a los anuncios políticos que solicita en la plataforma. Les impuso restricciones después de que Rusia los utilizara para sembrar el descontento entre los votantes durante las elecciones presidenciales de 2016 y los prohibió por completo durante un tiempo después de que el presidente Trump intentara anular las elecciones de 2020.
Con funcionarios gubernamentales de todo el mundo reportando un fuerte aumento del fraude en línea, Meta enfrenta una nueva presión.
La semana pasada, el gobierno de Singapur dio a Meta hasta finales de mes para tomar medidas enérgicas contra los anuncios fraudulentos y otras publicaciones tras un fuerte aumento de contenido que suplantaba a funcionarios. El gobierno amenazó con una multa inicial de $770,000, que aumentaba diariamente, si Meta no cumplía.
En Estados Unidos, la empresa argumentó ante los tribunales el año pasado que "no tiene la obligación hacia los usuarios" de abordar el contenido fraudulento, pero ese argumento legal parece insuficiente.
Un tribunal federal de California se negó la semana pasada a desestimar una demanda que acusaba a Facebook de negligencia e incumplimiento de contrato por incitar al fraude por parte de anunciantes.
"Si bien Facebook se exime de responsabilidad por la conducta de terceros, mantiene la responsabilidad de su propia promesa de 'tomar las medidas adecuadas' para combatir la publicidad fraudulenta y de hacerlo de buena fe", escribió el juez Jeffrey S. White, del Tribunal de Distrito de los Estados Unidos para el Distrito Norte de California, en su fallo.
Meta conserva los anuncios políticos en su catálogo durante siete años como medida de transparencia tras la operación de influencia rusa de 2016. Los anuncios de otras categorías no se conservan después de su publicación, lo que dificulta a los investigadores estudiar el alcance de las estafas entre ellos.
Facebook tiene requisitos específicos para los anunciantes políticos, que les exigen, por ejemplo, ser empresas registradas en Estados Unidos. El proceso de envío y aprobación de anuncios que aparecen en la plataforma está en gran medida automatizado, lo que permite que actores deshonestos se cuelen, según los expertos.
Algunos de los anunciantes estudiados por el Proyecto de Transparencia Tecnológica incluyeron información de contacto en Filipinas, Bangladés, Vietnam o el Reino Unido, lo que presumiblemente debería haberlos descalificado.
"Puedes ser cualquiera", afirmó Iesha White, directora de inteligencia de Check My Ads, un grupo de defensa de la industria publicitaria digital que no participó en el análisis del Proyecto de Transparencia Tecnológica. "No existen controles rigurosos".
Meta, afirmó, recurre a la colaboración abierta para aplicar la ley, esperando a que los usuarios o investigadores denuncien el fraude. "Debería identificarse incluso antes de que se publiquen los anuncios".
Muchos de los anuncios parecen estar dirigidos a usuarios mayores y conservadores. Suelen responder rápidamente a eventos con fuerte carga política.
El día del servicio conmemorativo en memoria de Charlie Kirk, el 21 de septiembre, apareció un anuncio que preguntaba si se podía perdonar a su asesino, como su esposa, Erika, afirmaba haberlo hecho. "Haz clic para votar ahora", decía, prometiendo una gorra roja con la leyenda "Somos Charlie Kirk" para quienes la perdonaran; gratis, excepto por 99 centavos para cubrir los gastos de envío.
Muchos de los anuncios destacados por los investigadores responden rápidamente a eventos con carga política, como este que se publicó el mismo día del servicio conmemorativo del activista conservador Charlie Kirk.
Aunque la gorra era aparentemente gratuita, requería una membresía mensual más costosa para un proveedor de ropa y otros productos que se autodenomina End the Wokeness. Introducir una tarjeta de crédito para pagar el envío simbólico significaba suscribirse automáticamente.
La Comisión Federal de Comercio ha advertido a los consumidores sobre sitios web que los inscriben en suscripciones que no desean.
La empresa que opera como End the Wokeness, Sculpin Media, ha registrado administradores de páginas en Filipinas y Estados Unidos. Se describe como una tienda de ropa y una empresa de medios de comunicación, y opera desde una pequeña oficina junto a un vendedor de especias y un detallista de automóviles en un almacén de ladrillos de baja altura cerca del antiguo vertedero de Fresh Kills en Staten Island.
Un hombre que se identificó como copropietario de la empresa pareció sorprendido de que un periodista hubiera encontrado la oficina. Reconoció haber colocado los anuncios, pero se negó a hablar oficialmente. Dijo que el personal estaba preocupado por posibles amenazas de violencia política.
Dentro de la oficina había cajas de gorras de béisbol rojas con el lema MAGA 2028. El sitio web de End the Wokeness se dedica a la venta de chucherías con temática de Trump y MAGA. Entre las últimas novedades se encuentra un "Kit Patriota para Tallar Calabazas", una plantilla que muestra la foto policial del Sr. Trump. La propia página de Facebook de la empresa incluye numerosas publicaciones de usuarios quejándose de su modelo de suscripción o solicitando reembolsos.
End the Wokeness, uno de los anunciantes cuyo contenido ha sido retirado de Facebook por infringir las políticas de la empresa, también vende chucherías con temática de Trump y MAGA.
En agosto, la Comisión Federal de Comercio advirtió que las estafas reportadas dirigidas a estadounidenses mayores mediante la suplantación de identidad de funcionarios gubernamentales o empresas se habían cuadruplicado entre 2020 y el año pasado.
Los fraudes en redes sociales y otros sitios web ahora superan con creces a los que se realizan mediante mensajes de texto o llamadas telefónicas. La proliferación de herramientas comerciales que utilizan inteligencia artificial ha contribuido claramente al aumento de anuncios engañosos, facilitando su producción y difusión.
"Esto forma parte de un problema mucho mayor: la IA avanza rápidamente, pero las leyes y protecciones que tenemos para los estadounidenses comunes están peligrosamente obsoletas", declaró el Sr. Sanders en un comunicado en respuesta a una consulta sobre su deepfake.
El anuncio con la Sra. Leavitt fue publicado por uno de los cuatro anunciantes vinculados a una empresa autodenominada RFY News Group. Nadie respondió a un mensaje dejado en un número que figuraba como contacto en la biblioteca de anuncios.
Ni la Sra. Leavitt ni la Casa Blanca respondieron a una solicitud de comentarios sobre los videos engañosos.
Meta suspendió las cuentas de dos de los cuatro anunciantes involucrados en agosto, a pesar de que ya llevaban semanas anunci ándose. Otros dos parecen haber sido eliminados esta semana tras consultas sobre la investigación del Proyecto de Transparencia Tecnológica, que ha seguido a RFY News Group durante más de un año.
Los investigadores afirman que Meta podría hacer más para limitar este tipo de anuncios y ser más transparente en la aplicación de sus propias normas. En cambio, ha reducido sus esfuerzos para moderar el contenido político y sus equipos dedicados a la seguridad de la plataforma.
"El péndulo se ha inclinado hacia consideraciones de ingresos a corto plazo en lugar de la salud a largo plazo de la plataforma y el ecosistema", dijo Rob Leathern, exempleado de Meta que ayudó a crear la biblioteca de anuncios y ahora dirige Hawkview Labs, una empresa que ayuda a startups a trabajar en la confianza y seguridad en línea. "Quizás en algún momento tenga que cambiar de dirección".