Incidentes Asociados
Las imágenes virales generadas por IA del arresto de Donald Trump que puede estar viendo en las redes sociales son definitivamente falsas. Pero algunas de estas creaciones fotorrealistas son bastante convincentes. Otros parecen más fotogramas de un videojuego o de un sueño lúcido. Un hilo de Twitter de Eliot Higgins, uno de los fundadores de Bellingcat, que muestra a Trump siendo invadido por policías sintéticos, correr en fuga y [escoger un mono de prisión] (https://twitter.com/EliotHiggins/status/1638163340147957760) fue visto más de 3 millones de veces en la plataforma de redes sociales.
¿Qué cree Higgins que pueden hacer los espectadores para diferenciar entre imágenes falsas de IA, como las de su publicación, y fotografías reales que pueden surgir del posible arresto del expresidente?
“Después de haber creado muchas imágenes para el hilo, es evidente que a menudo se enfoca en el primer objeto descrito, en este caso, los diversos miembros de la familia Trump, y todo lo que lo rodea a menudo tiene más fallas”, dijo Higgins. correo electrónico. Mire fuera del punto focal de la imagen. ¿El resto de la imagen parece ser una ocurrencia tardía?
Aunque las versiones más recientes de las herramientas de imagen de IA, como Midjourney (la versión 5 se usó para el hilo mencionado anteriormente) y Stable Diffusion, están logrando un progreso considerable, los errores en los detalles más pequeños siguen siendo un signo común de imágenes falsas. A medida que el arte de la IA crece en popularidad, muchos artistas señalan que los algoritmos aún tienen problemas para replicar el cuerpo humano de una manera consistente y natural.
Mirando las imágenes de IA de Trump del hilo de Twitter, la cara se ve bastante convincente en muchas de las publicaciones, al igual que las manos, pero las proporciones de su cuerpo pueden verse contorsionadas o fundidas con las de un oficial de policía cercano. Aunque ahora es obvio, es posible que el algoritmo pueda evitar partes del cuerpo de aspecto peculiar con más entrenamiento y [refinamiento](https://hyperallergic.com/808778/ai-image-generators-finally-figured-out -manos/).
¿Necesitas otro aviso? Busque escritura extraña en las paredes, ropa u otros elementos visibles. Higgins señala texto desordenado como una forma de diferenciar las imágenes falsas de las fotos reales. Por ejemplo, los policías usan insignias, gorras y otros documentos que parecen tener letras, a primera vista, en las imágenes falsas de los oficiales que arrestan a Trump. Tras una inspección más cercana, las palabras no tienen sentido.
Una forma adicional en la que a veces puedes saber que una imagen es generada por IA es al notar expresiones faciales exageradas. “También he notado que si pides expresiones, Midjourney tiende a representarlas de una manera exagerada, con arrugas en la piel muy pronunciadas por cosas como sonreír”, dijo Higgins. La expresión de dolor en el rostro de Melania Trump parece más una recreación de El grito de Edvard Munch o un fotograma de una película de terror A24 inédita que una instantánea de un fotógrafo humano.
Tenga en cuenta que los líderes mundiales, las celebridades, las personas influyentes en las redes sociales y cualquier persona con una gran cantidad de fotos que circulan en línea pueden parecer más convincentes en las fotos falsas que en las imágenes generadas por IA de personas con una presencia menos visible en Internet. “Está claro que cuanto más famosa es una persona, más imágenes ha tenido que aprender la IA”, dijo Higgins. "Así que las personas muy famosas se representan extremadamente bien, mientras que las personas menos famosas suelen ser un poco raras". Para mayor tranquilidad acerca de la capacidad del algoritmo para recrear su rostro, podría valer la pena pensarlo dos veces antes de publicar un volcado de fotos de selfies después de una noche divertida con amigos. (Aunque es probable que los generadores de IA ya hayan extraído sus datos de imagen de la web).
En el período previo a las próximas elecciones presidenciales de EE. UU., ¿cuál es la política de Twitter sobre las imágenes generadas por IA? La [política actual] de la plataforma de redes sociales (https://help.twitter.com/en/rules-and-policies/manipulated-media) dice, en parte, "No puede compartir información sintética, manipulada o fuera de medios de contexto que pueden engañar o confundir a las personas y provocar daños ('medios engañosos')”. Twitter crea múltiples excepciones para memes, comentarios y publicaciones no creadas con la intención de engañar a los espectadores.
Hace solo unos años, era casi insondable que la persona promedio pronto sería capaz de fabricar deepfakes fotorrealistas. de los líderes mundiales en casa. A medida que las imágenes de IA se vuelven más difíciles de diferenciar de las reales, es posible que las plataformas de redes sociales deban reevaluar su enfoque del contenido sintético e intentar encontrar formas de guiar a los usuarios a través del complejo y, a menudo, inquietante mundo de la IA generativa.