Problema 4102

Casey Morris, una abogada del norte de Virginia, recientemente comenzó a revisar Facebook nuevamente después de una larga pausa. Entre las publicaciones de amigos y familiares, notó una tendencia extraña.

"El título dice: 'Cierra los ojos al 70% y verás magia'. Y sin entrecerrar los ojos, es muy obvio que es una especie de imagen de Jesús, pero está compuesta por vegetales, un tractor y una niña que están algo distorsionados", dijo.

Esa no fue la única rareza en el muro de Morris. Se repitieron imágenes similares con títulos idénticos. También aparecieron publicaciones diferentes, más explotadoras emocionalmente, que mostraban a madres y niños discapacitados en el barro o amputados sonrientes, con títulos que pedían un deseo de cumpleaños.

"Ha convertido a Facebook en un lugar muy extraño y espeluznante para mí", dijo Morris.

Entre el tema, las pistas estilísticas y los errores extraños, Morris rápidamente se dio cuenta de que estas imágenes eran falsas, producto de la inteligencia artificial (https://www.npr.org/2024/05/07/1249570785/katy-perry-met-gala-deepfake).

No las publican personas que ella conoce o sigue. En cambio, Facebook sugiere que podría estar interesada en ellas, y parecen ser muy populares.

"Están recibiendo miles de reacciones y miles de comentarios [de] personas que parecen pensar que son reales, por lo que les desean un feliz cumpleaños o les dicen algo religioso en los comentarios", dijo.

Morris no es la única usuaria de Facebook cuyo feed ha comenzado a llenarse de spam generado por IA. Los periodistas del sitio web tecnológico 404 Media rastrearon un aumento en publicaciones aparentemente generadas por IA en Facebook, que es propiedad de Meta, en los últimos meses. Imágenes generadas por IA como estas están empezando a aparecer también en otros sitios de redes sociales, incluidos Threads, que también es propiedad de Meta, y LinkedIn.

Spam y estafas

En Facebook, en muchos casos, parece que el propio algoritmo de la plataforma está potenciando las publicaciones de IA.

Cuando los investigadores de las universidades de Georgetown y Stanford investigaron más de 100 páginas de Facebook que publican contenido de IA de forma rutinaria (a veces decenas de veces al día), descubrieron que muchas de ellas participan en estafas y spam.

"Vimos imágenes generadas por IA de todo lo que puedas imaginar, desde cabañas de madera hasta abuelas con pasteles de cumpleaños y niños con pinturas magistrales que simplemente no podrían ser reales", dijo Josh Goldstein, investigador de la Universidad de Georgetown y coautor del estudio preliminar, que aún no ha sido revisado por pares.

Goldstein y su coautor también descubrieron que Facebook recomienda activamente parte de este contenido de IA en los feeds de los usuarios, lo que potencialmente crea un ciclo en el que las publicaciones obtienen más participación, por lo que se recomiendan a aún más usuarios. Algunas publicaciones individuales de las páginas que analizaron han acumulado cientos de miles e incluso millones de interacciones.

"No se trataba de imágenes esporádicas aquí y allá con las que solo interactuaban unas pocas personas. Realmente estaban ganando mucho terreno", dijo Goldstein.

Su análisis descubrió que algunas de estas páginas son spam clásico, que publican enlaces a sitios web donde pueden obtener ingresos por publicidad. Otras son estafadores, que publicitan productos generados por IA que no parecen existir en realidad.

Pero muchas de las páginas no tienen una motivación financiera clara, dijo Goldstein. Parecen simplemente estar acumulando una audiencia con fines desconocidos.

"Podría ser que estas fueran páginas nefastas que estaban tratando de construir una audiencia y luego cambiarían a tratar de vender productos o enlaces a sitios web cargados de publicidad o tal vez incluso cambiarían sus temas a algo completamente político", dijo Goldstein. "Pero sospecho que lo más probable es que muchas de estas páginas fueran simplemente creadores que se dieron cuenta de que era una táctica útil para obtener la participación de la audiencia".

El clickbait siempre ha estado en las redes sociales. Pero en los últimos años, Facebook ha duplicado la cantidad de publicaciones que recomienda a los usuarios, ya que busca mantenerse al día con los cambios en las redes sociales iniciados por TikTok. En una reciente conferencia telefónica sobre ganancias, el director ejecutivo de Meta, Mark Zuckerberg, dijo a los analistas que las publicaciones recomendadas ahora representan alrededor del 30% de los feeds de los usuarios.

Un cambio de imágenes basadas en la realidad a lo extraño

Al mismo tiempo, el contenido generado por IA ahora es más fácil que nunca para cualquier persona. En conjunto, estas dinámicas están creando una receta para que representaciones extrañas de Jesús, publicaciones de cumpleaños perturbadoras y arquitectura y artesanías imposibles se vuelvan virales.

"Está imitando todos los elementos que hicieron que algo se volviera viral, pero están poniendo las imágenes más extrañas que he visto en mi vida", dijo Brian Penny, un escritor independiente que ha estado siguiendo la IA en Facebook durante casi dos años. Forma parte de un grupo dedicado a compartir y desacreditar imágenes de IA.

Penny ha visto un cambio desde imágenes que tienen algún fundamento en la realidad (https://www.npr.org/2023/06/07/1180768459/how-to-identify-ai-generated-deepfake-images), como la representación generada por IA del Papa Francisco con un abrigo acolchado que se volvió viral el año pasado, a algo mucho más extraño.

"Trabajamos para reducir la difusión de contenido spam o sensacionalista porque queremos que los usuarios tengan una buena experiencia, por eso les ofrecemos controles sobre lo que ven en su feed", dijo un portavoz de Meta a NPR en un comunicado.

La empresa planea comenzar a etiquetar contenido generado por IA (https://www.npr.org/2024/02/06/1229317971/meta-labeling-ai-generated-images-instagram-facebook-artificial-intelligence) creado con algunas herramientas líderes en la industria pronto. La semana pasada, TikTok comenzó a aplicar etiquetas similares a algunas publicaciones generadas por IA en su plataforma.

Mientras tanto, el aumento del spam de IA está desanimando a muchas personas.

Katrina McVay, que vive en Grand Rapids, Michigan, dice que tuvo que disuadir a su madre de comprar artículos de carpintería y otros elementos decorativos para el hogar que ve en Facebook, que son claramente falsos.

"Ella decía: '¿No sería genial para tu hija?'", dijo McVay. "Y yo le respondía: 'Pero eso no es real'".

Algunos usuarios de Facebook están considerando abandonar la plataforma por completo debido a sus frustraciones por recibir recomendaciones de imágenes de IA que son spam.

"¿Se supone que debo revisar todo esto para ver que mi primo acaba de estar en el desierto del Sahara?", preguntó Borys Rzonca, un diseñador de muebles de Los Ángeles. "Ya no vale la pena para mí".

Además de encontrar molesto el spam de IA en Facebook, muchas personas con las que habló NPR dicen que están preocupadas por los riesgos más grandes que implica que aparezcan imágenes artificiales en todas partes.

"Simplemente refuerza la incredulidad de las personas y... hace que sea más difícil ver lo que es real", dijo Hobey Ford, un titiritero de Carolina del Norte que ha visto imágenes de IA aparecer en grupos de Facebook dedicados a la ciencia, que afirman representar nuevos descubrimientos.

"Y creo que eso es peligroso en nuestro mundo en este momento", dijo.