Problema 2810

En la soleada Catford, al sureste de Londres, las macetas vuelan mientras Idris Elba y su vecina Kim Kardashian se en desacuerdo sobre el jardín compartido de sus casas con terraza.

En la Isla de Wight, la joven trabajadora Olivia Colman y su marido estudiante maduro, Jay-Z, comparten el amor por el baile en línea y su gato, Cabbage, pero no la propiedad presuntuosa. agente, Tom Hiddleston, al lado.

El enfermero en prácticas Andy Murray y su madre, una Lorraine Kelly muy tatuada, tienen problemas de límites con respecto al ruidoso gallo del vecino RuPaul en su tranquilo pueblo de Cotswold; mientras que Adele, una cuidadora recién soltera que se mudó a un semirremolque de Coventry, odia cómo las palomas están arruinando los accesorios de jardín que le encanta comprar en Shopping Channel.

Si todo esto suena como los ingredientes de una pesadilla suburbana extendida, esa es completamente la intención de una nueva serie de ITV que constituye la primera serie de comedia 'deepfake' del mundo.

Deep Fake Neighbor Wars utiliza tecnología de vanguardia "deepfake" para trasladar celebridades glamorosas a entornos infinitamente menos glamorosos, haciendo trabajos de peatones y viviendo en hogares comunes.

El espectáculo es una serie de sketches cómicos extendidos en los que los rostros de los famosos se injertan digitalmente en actores que imitan sus voces y gestos.

A primera vista, la magia de la computadora es sorprendente e inquietante: el elenco realmente se parece a estas estrellas, incluso si no siempre suenan exactamente como ellas.

Pero así como el potencial de las falsificaciones profundas está generando entusiasmo febril en la industria del entretenimiento, está causando una alarma creciente entre los políticos y los expertos en seguridad que ven el peligro, particularmente en la difusión de noticias falsas, en una tecnología que puede hacer que parezca que alguien ha dicho o hecho nada.

Los países hostiles, u otros con malas intenciones, podrían incluso utilizarlo para socavar las instituciones democráticas y la seguridad nacional.

Lo que, por ejemplo, podría pasar si no fuera el derrumbe de Idris Elba con un vecino que está siendo falsificado, sino un líder mundial amenazando a otro país o criticando a un aliado, en un video, por ejemplo, que aparece la noche antes de una elección general. O un jefe de policía que dice algo profundamente racista después de que acaban de matar a un hombre negro. De repente, no es ni remotamente divertido.

Algunos ven la amenaza de una gran perturbación social e incluso el "fin de la verdad" a medida que el software deepfake se vuelve inmensamente sofisticado y tan generalizado que se puede descargar en un teléfono móvil.

En un mundo cada vez más polarizado en el que ya era bastante difícil ponerse de acuerdo en algo, es posible que pronto ni siquiera podamos confiar en nuestros ojos y oídos, y mucho menos en los demás. Para colmo, como suele ocurrir con la tecnología al galope, existen muy pocas leyes que nos protejan.

Deep Fake Neighbor Wars no es tan impresionante como la serie de videos cortos de YouTube falsos de Tom Cruise que comenzaron a aparecer hace tres años.

El especialista en efectos visuales Chris Ume se asoció con Miles Fisher, que se parece a Tom Cruise, para producir un video de un crucero falso que anuncia que se postula para presidente.

Un año después, Fisher comenzó a publicar videos en su propia cuenta de TikTok. Su primer vídeo, en el que juega al golf como Cruise, acumuló cuatro millones de visualizaciones en menos de dos días, mientras que en otro, su 'DeepTomCruise' abraza a la verdadera Paris Hilton. Para muchos, los videos de Fisher fueron una introducción a lo que se puede lograr con el software deepfake.

Ninguna de las estrellas enviadas en la serie de ITV fue consultada o dio permiso, aunque el uso de sus imágenes por parte de Deep Fake Neighbor Wars no es ilegal (todavía no de todos modos).

Sin embargo, mientras que el programa comienza cada episodio con un descargo de responsabilidad en pantalla que dice que lo que sigue es "totalmente falso" y "las verdaderas celebridades no han tenido nada que ver con esto", y una etiqueta de "falsificación profunda" permanece en la esquina de la pantalla. , no hay nada que impida que los clips editados del programa se publiquen en las redes sociales sin tal advertencia.

Aunque ninguna de las 'celebridades reales' se ha quejado, el sindicato de actores Equity ha expresado sus dudas, incluso lanzando una campaña Stop AI Stealing The Show, sobre las consecuencias 'distópicas' para los artistas que no son consultados, y mucho menos pagados si sus rostros son utilizado para deepfakery.

Por lo general, un video o una foto falsos consisten en superponer la cara de una persona en el cuerpo de otra persona. Eso puede sonar simple, pero engañar al ojo humano haciendo coincidir expresiones, gestos, voz e incluso tics faciales requiere mucho trabajo. Los deepfakes generalmente se crean alimentando miles de fotos de alguien (los famosos son más fáciles de falsificar ya que hay muchas más fotos de ellos) en un programa de computadora dentro de una cámara especial.

Esto utiliza el "aprendizaje automático" (una forma de inteligencia artificial o IA, mediante la cual la computadora aprende por sí misma) para comprender cómo se verá esa persona desde varios ángulos al combinar la información de todas las fotos.

Luego se puede superponer una copia de la cara de la persona a la del actor que es el suplente a los efectos de la falsificación.

Si desea que las personas digan cosas que nunca han dicho, el software debe aprender cómo se mueven la boca, la cara e incluso el cuello cuando pronuncian las palabras. (A menudo es más fácil detectar un deepfake poco sofisticado mirando la boca).

Lo ideal es que el suplente se mueva lo más lento posible. Hacer movimientos rápidos o exhibir emociones fuertes puede interrumpir el proceso, al igual que bloquear partes de la cara, por ejemplo, al ponerse anteojos de sol. Pero incluso estos problemas se están resolviendo.

Una variación más avanzada del programa de falsificación profunda, conocida como GAN (o Generative Adversarial Networks) implica el uso de dos algoritmos de IA en competencia, uno de los cuales está creando una falsificación profunda y el otro está tratando de detectar la falsificación. Gradualmente, mediante prueba y error, reducirán la imagen ultrafalsa para producir algo que se acerque a una semejanza perfecta.

Si bien el software deepfake simple se puede descargar gratis en un teléfono móvil, invariablemente se debe realizar un trabajo considerable de posproducción para suavizar fallas menores que una computadora que depende de mediciones estadísticas puede pasar por alto, pero el ojo humano no.

El audio también se puede falsificar para crear los llamados "clones de voz", ya sea a través de un software que imita una voz o une palabras que la persona imitada realmente ha dicho.

La industria del cine y la televisión lleva algunos años experimentando con la tecnología deepfake, aunque prefiere llamarla 'medios sintéticos': se ha empleado para 'resucitar' a actores muertos como Peter Cushing en las últimas películas de Star Wars, para poner a Bruce Willis en un anuncio ruso, y tener a la Reina bailando en la impertinente parodia de Channel 4 de 2020 del Discurso de Navidad de HM.

Un final de temporada del programa de televisión America's Got Talent presentó deepfakes de Elvis Presley y Simon Cowell.

Se acaba de anunciar que actores como Tom Hanks y Robin Wright recibirán el tratamiento deepfake, 'transformándose sin problemas en versiones más jóvenes de sí mismos' en un próximo largometraje, en el que participará la misma compañía, Metaphysic, que hizo los videos de Tom Cruise.

Mientras tanto, la revolución de Deepfake ya ha demostrado que tiene aplicaciones mucho más siniestras que enviar celebridades o realizar algunos trucos de cambio de tiempo en películas.

De hecho, el término fue acuñado en 2017 en el foro de mensajes en línea Reddit por el productor de videos sexuales en los que los rostros de los artistas se intercambiaban por los de las actrices de cine.

Todavía se utiliza para usos sórdidos, alimentando la llamada "pornografía de venganza" (en la que se puede hacer que la gente común parezca que está teniendo sexo).

Un programa de Internet deepfake particularmente inquietante puede quitar la ropa de una foto y reemplazarla con un cuerpo desnudo realista. Muchas de sus más de 100.000 víctimas han sido niñas menores de edad.

En 2019, se cree que los delincuentes utilizaron tecnología deepfake para imitar la voz del director ejecutivo de la filial británica de una empresa energética alemana. Los estafadores contactaron debidamente por teléfono a uno de los subordinados del CEO y le ordenaron que transfiriera una suma de casi £200,000.

Según los informes, una estafa similar de clonación de voz les reportó a los ladrones 29 millones de libras esterlinas en un atraco a un banco de Dubái. Y, hace solo unos días, la estrella de Harry Potter, Emma Watson, fue una lectura falsa de Mein Kampf de Hitler.

Deepfake se ha utilizado en engaños políticos de Joe Biden quedándose dormido durante una entrevista a Barack Obama llamando a Donald Trump un "total dip****".

El año pasado, circuló en las redes sociales un video del líder ucraniano Volodymyr Zelensky rindiéndose a Rusia. Era de mala calidad pero, según los expertos en seguridad, mostraba lo que se podía intentar.

Algunos políticos de EE. UU. quieren prohibir las falsificaciones profundas maliciosas y dicen que es un problema que mantiene a las agencias de inteligencia "despiertas por la noche". Como dijo un senador de EE. UU.: "Los deepfakes se pueden hacer a la medida para separar a los estadounidenses y echar gasolina en casi cualquier fuego de guerra cultural".

En la vigilancia, no solo podría llevar a que los inocentes fueran implicados erróneamente, sino que los culpables siempre podrían descartar videos incriminatorios genuinos como falsos. En 2020, se supo que se usó una grabación de audio falsa en una batalla por la custodia en el Reino Unido para desacreditar al padre al hacer creer que había hecho amenazas "violentas" contra su esposa.

Sería injusto decir que la tecnología ha sido una mala noticia fuera de la industria del entretenimiento. La policía holandesa lo usó el año pasado para revivir un caso sin resolver de 2003 al recrear digitalmente a una víctima de asesinato de 13 años. Los compradores en línea pueden usarlo para probarse ropa en probadores virtuales. Mientras tanto, tiene usos en videos de servicio público como los de la campaña Malaria Must Die, que mostraba a David Beckham hablando en nueve idiomas o con más de 70 años.

Pero los problemas éticos de deepfake, dicen los expertos, son serios y apremiantes. Dadas las innumerables áreas que podrían explotarse, desde la diplomacia y la seguridad nacional hasta los negocios y la política, "deberíamos estar muy preocupados", dice Mathilde Pavis, especialista en derecho de Internet y experta en falsificación profunda de la Universidad de Reading. El problema “requiere una respuesta internacional que realmente falta”.

Es demasiado tarde para tratar de prohibir los deepfakes por completo y posiblemente incluso para restringir los maliciosos, dicen los expertos. En cambio, argumentan, debemos volvernos más "alfabetizados tecnológicamente" y conscientes de los posibles engaños falsos.

Podría ser difícil. Como el deepfake Tom Cruise le dice a la verdadera Paris Hilton cuando se pregunta si la gente creerá que son una pareja: "Creo que la mayoría de la gente creerá cualquier cosa".