Incidentes Asociados
A pesar de la legislación recientemente aprobada en California, las falsificaciones de celebridades mediante inteligencia artificial (https://www.foxnews.com/category/tech/artificial-intelligence) son más frecuentes que nunca.
Uno de los más recientes ha sido un clip de Jennifer Aniston que apareció en Facebook, en el que se la ve hablando de estar "en forma de bikini incluso a los 50" y promocionando suplementos de colágeno que son la razón "por la que mi cuerpo no retiene grasa", según US Weekly.
El video fue eliminado, pero los fans lo cuestionaron y se lo enviaron a el influencer de fitness Ben Carpenter, quien examinó el video.
Carpenter determinó que el clip que se vio inicialmente en el anuncio falso en realidad provenía de una entrevista de mesa redonda de Hollywood Reporter con otras estrellas, incluidas Nicole Kidman y Naomi Watts.
"Se puede ver que el lenguaje corporal coincide. Durante este fragmento del video, en realidad estaba hablando de su actuación, nada que ver con su 'cuerpo de bikini' en absoluto", señala Carpenter en el título de su publicación de Instagram al respecto.
Continuó: "Una vez más, esta es otra toma de advertencia que nos muestra de lo que es capaz la IA. Será cada vez más difícil determinar qué videos son genuinos y cuáles no".
Los representantes de Aniston no respondieron de inmediato a la solicitud de comentarios de Fox News Digital.
Rob Rosenberg, fundador y director de Telluride Legal Strategies, estuvo de acuerdo en que "claramente el video era falso".
"Creo que es probable que los fans de Jennifer Aniston, si analizan el vídeo, se den cuenta de que no es auténtico. Hay momentos en los que los labios no se sincronizan con el audio, además, supongo que si fueran fans, también podrían estar familiarizados con la mesa redonda en la que participó anteriormente", dijo.
La experta en inteligencia artificial Marva Bailer estuvo de acuerdo en que es probable que los fans cuestionen un vídeo como el que se ha compartido, sobre todo porque Aniston no utiliza mucho las redes sociales.
["Jennifer se unió a Instagram](https://www.foxnews.com/entertainment/friends-star-jennifer-aniston-thankful-cast- isolate-protected-social-media-during-filming) en 2019, y de hecho estableció un récord mundial porque tuvo un millón de seguidores en cinco horas. Pero si miras su Instagram, incluso con su gente de relaciones públicas, tiene menos de 200 publicaciones. Entonces, Instagram no es realmente la forma en que se comunica con su audiencia", dijo. "Entonces, cuando vemos un anuncio con ella promocionando un producto en Instagram de inmediato, nuestro sentido arácnido aparece porque esa no es la forma en que se comunica con su audiencia".
Aniston está lejos de ser la primera celebridad en tener su imagen utilizada en un anuncio creado por IA. Estrellas como Tom Hanks, Taylor Swift, Scarlett Johansson y más han tenido que lidiar con la tecnología.
"Lo he visto descrito como un gran juego de golpear a un topo", dijo Rosenberg.
"Sin duda, hay que estar alerta y eliminar estas cosas cuando las detectamos. Todas las plataformas, una vez que reciben la notificación de que esto no es auténtico, de que no está autorizado, tienen la obligación de eliminar el vídeo. Pero, obviamente, es responsabilidad suya y de su representante estar atentos a este tipo de cosas y detenerlas lo antes posible. En este caso, me sorprende que hayan sido necesarias un millón de visitas o algo así antes de que alguien lo marcara como no auténtico", continuó.
Según la publicación de Carpenter, el clip de Aniston tenía más de 700.000 visitas cuando lo informó.
"Lo que ha cambiado en la era de la IA es que estas herramientas, estas herramientas digitales, se han vuelto mucho más accesibles para las personas con un coste inicial muy bajo o sin coste alguno. Mientras que antes se trataba de un diseño complicado asistido por ordenador o de agencias o de un software muy caro y complicado", explicó Bailer. "La gente piensa: 'Oye, puedo hacer un anuncio' (https://www.foxnews.com/entertainment/taylor-swift-fake-ai-ad-dupes-fans) y eso no está bien, y ahora las estrellas están buscando encontrarlos".
"Lo he visto descrito como un gran juego de golpear a un topo".
— Rob Rosenberg, fundador y director de Telluride Legal Strategies
Continuó: "Otra área que es muy interesante de observar es la legislación. La legislación ahora no se limita al creador o al empleado, sino que está considerando todo el ecosistema. Y eso significa que se está considerando a la empresa potencial que lo está poniendo en marcha o al proveedor que tiene la aplicación o incluso los medios para llegar a ti. Y eso va a ser muy, muy difícil de litigar y rastrear. Pero es mucho dinero si los encuentran".
La legislación está en los libros en Tennessee y ahora en California, con dos proyectos de ley firmados recientemente en septiembre.
El 17 de septiembre, el gobernador de California, Gavin Newsom, puso su firma en dos proyectos de ley apoyados por el sindicato de actores, SAG-AFTRA, que ofrecían protección para las imágenes de los actores, vivos y muertos: AB 1836, que restringe el uso de IA para crear réplicas digitales de artistas muertos sin el consentimiento de sus herederos, y AB 2602, que aumenta los requisitos de consentimiento para los artistas vivos para las réplicas de IA.
"Seguimos adentrándonos en territorio desconocido en lo que respecta a cómo la IA y los medios digitales están transformando la industria del entretenimiento, pero nuestra Estrella del Norte siempre ha sido proteger a los trabajadores. Esta legislación garantiza que la industria pueda seguir prosperando al tiempo que fortalece las protecciones para los trabajadores y cómo se puede o no utilizar su imagen", dijo Newsom en un comunicado.
"Es un día trascendental para los miembros de SAG-AFTRA y para todos los demás, porque las protecciones de inteligencia artificial por las que luchamos tanto el año pasado ahora se han ampliado gracias a la ley de California gracias a la legislatura y al gobernador Gavin Newsom", dijo la presidenta de SAG-AFTRA, Fran Drescher. "Dicen que, como le va a California, le va a la nación".
Más tarde, en septiembre, Newsom vetó un proyecto de ley independiente, el SB 1047, que también contaba con el respaldo de SAG-AFTRA.
Según The Associated Press, el veto del gobernador supone un importante revés para los intentos de crear barreras en torno a la inteligencia artificial y su rápida evolución con poca supervisión.
"Aunque tiene buenas intenciones, la SB 1047 no tiene en cuenta si un sistema de IA se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos confidenciales", dijo Newsom en un comunicado. "En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre que un sistema grande lo implemente. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología".
"Le daré mucho crédito a California, ya que creo que han sido bastante agresivos al aprobar leyes sobre IA y la información engañosa que se entrega a los consumidores", dijo Rosenberg. "Creo que realmente están liderando la iniciativa para tratar de entender cómo proteger a los consumidores de los malentendidos que podrían surgir del uso de esta tecnología".
En cuanto al proyecto de ley vetado, añadió: "El gobernador Newsom es gobernador de un estado en el que, por un lado, está el centro de la industria del entretenimiento y Hollywood. Y, por otro lado, creo que, ya sabes, alrededor de 32 de los 50 principales desarrolladores de inteligencia artificial del mundo también están en su estado. Así que, ya sabes, está tratando de equilibrar los intereses en pugna dentro de su estado. Obviamente, quiere que la gente, estas empresas, se queden allí. Quiere que sigan desarrollando, que traigan dólares de inversión, todo ese tipo de cosas. Y creo que eso es lo que vimos con este proyecto de ley en particular: está tratando de liderar el camino en tantos de estos proyectos de ley que se han convertido en ley. Pero al mismo tiempo, no quiere sofocar, sofocar la innovación, sino que está buscando una forma de dar a la gente la posibilidad de descubrir todos los buenos usos de esta tecnología mientras se mantiene alerta y vigilante sobre los malos usos".
La clave para lidiar con esto, tanto para las celebridades como para la persona promedio, será la vigilancia.
"La legislación no detendrá los anuncios no autorizados desde la era digital", dijo Bailer. "Habrá creadores que publicarán lo que quieran, ya sea por diversión, por ganancias o por daño. Y depende de las autoridades. Depende de los fanáticos y depende de las relaciones públicas tratar de encontrar a esas personas y detenerlas nuevamente, cuando tenga sentido. Y eso es lo que tenemos que analizar. ¿Dónde están nuestras prioridades y dónde ponemos nuestra atención? Porque a veces, cuando ponemos nuestra atención en los buenos malos, nos olvidamos de los buenos. Pero la gente va a hacer lo que quiera porque eso es lo que nos hace humanos".
"Cada ley es tan eficaz como su aplicación. Y creo que eso depende de lo vigilantes que sean los legisladores y las fuerzas del orden a la hora de perseguir a las personas, porque, sin duda, si yo fuera Jennifer Aniston en este caso, podría presentar una demanda privada contra las personas si pudiera averiguar quiénes son", dijo Rosenberg. "Pero incluso una vez que la legislación se promulgue, la pregunta es si los gobiernos y las fuerzas del orden realmente harán cumplir estas leyes y en qué medida.
Agregó: "Esto no es una moda pasajera. No es una exageración. Es algo que está por llegar. Y, ya sabes, será cada vez más frecuente en los negocios y en la vida. Ya sabes, afectará a todo lo que hacemos. Creo que simplemente estamos aprendiendo sobre la marcha".