Incidentes Asociados
Fue un viento frío el que sopló en la Plaza de San Pedro en el Vaticano durante el fin de semana, pero eso no disuadió al [Papa Francisco](https://www.cbsnews.com/news/pope-francis-hospitalized-vatican- infección/) salir a la calle para saludar a los fieles, como suele hacer. Cuando aparecieron en línea imágenes que mostraban al pontífice de 86 años atípicamente envuelto contra los elementos con una elegante chaqueta acolchada blanca y un crucifijo de plata enjoyado, pronto se volvieron virales y acumularon millones de visitas en las plataformas de redes sociales.
La imagen, publicada por primera vez el viernes en Reddit junto con varias otras, era en realidad falsa. Fue una representación de inteligencia artificial generada utilizando el software de inteligencia artificial Midjourney.
Fotos falsas generadas por software de inteligencia artificial parecen mostrar al Papa Francisco caminando fuera del Vaticano con un abrigo de diseñador, algo que nunca hizo.
Si bien hay algunas inconsistencias en las imágenes finales renderizadas (por ejemplo, la mano izquierda del Papa donde sostiene una botella de agua parece distorsionada y su piel tiene una apariencia demasiado nítida) muchas personas en línea fueron engañadas haciéndoles pensar que eran reales. fotos.
La revelación de que habían sido engañados dejó a algunos usuarios de Twitter conmocionados y confundidos.
"Pensé que la chaqueta acolchada del Papa era real y no lo pensé dos veces", tuiteó la modelo y autora Chrissy Teigen. "De ninguna manera voy a sobrevivir al futuro de la tecnología".
El "Papa con chaqueta acolchada" fue solo la última de una serie de imágenes "deepfake" creadas con software de inteligencia artificial. Otro ejemplo reciente fueron las fotografías del expresidente Donald Trump que parecían mostrarlo bajo custodia policial. Aunque el creador dejó claro que fueron producidas como un ejercicio de uso de IA, las imágenes, combinadas con [rumores del inminente arresto de Trump](https://www.cbsnews.com/news/ron-desantis-mike- pence-react-to-trumps-claim-hell-be-arrested/), se volvió viral y creó una narrativa completamente fraudulenta pero potencialmente peligrosa.
Midjourney, DALL E2, OpenAI y Dream Studio se encuentran entre las opciones de software disponibles para cualquiera que desee producir imágenes fotorrealistas utilizando nada más que indicaciones de texto, sin necesidad de formación especializada.
A medida que este tipo de software se generaliza, los desarrolladores de IA están trabajando en mejores formas para informar espectadores de la autenticidad o no de las imágenes.
"Sunday Morning" de CBS News informado a principios de este año que el director científico de Microsoft, Eric Horvitz , el cocreador del filtro de correo electrónico no deseado, fue uno de los que intentaron resolver el enigma y predijo que si no se desarrolla tecnología que permita a las personas detectar fácilmente falsificaciones dentro de una década aproximadamente "la mayor parte de lo que la gente verá, o "Una gran parte será sintética. No podremos notar la diferencia".
Mientras tanto, Henry Ajder, que presenta una serie de radio de la BBC titulada "El futuro será sintetizado", advirtió en una entrevista en un periódico que "ya era muy, muy difícil determinar si" algunas de las imágenes que se estaban creando eran reales.
"Nos da una idea de cómo los malos actores, los agentes que difunden desinformación, podrían convertir estas herramientas en armas", dijo Ajder al periódico británico I.
Ya hay pruebas claras de que esto está sucediendo.
En marzo pasado, apareció un vídeo que parecía mostrar al presidente ucraniano Volodymyr Zelenskyy diciéndole a sus tropas que depongan las armas y se rindan. Era de mala calidad y rápidamente se descubrió que era falso, pero puede haber sido simplemente una salva inicial en una nueva guerra de información.
Entonces, si bien una imagen puede decir más que mil palabras, puede valer la pena preguntar quién habla realmente.