Incidentes Asociados
Las celebridades cuyas imágenes han sido robadas han denunciado varios deepfakes TikTok. Estos incluyen a MrBeast, Tom Hanks y Gayle King.
El vídeo falso de MrBeast afirmaba que los espectadores habían sido seleccionados para recibir un iPhone 15 Pro por sólo 2 dólares, lo que dejó a la estrella de YouTube preguntándose si las redes sociales están preparadas para estafas deepfake...
Un deepfake es un vídeo en el que se utiliza IA generativa para falsificar imágenes de un individuo, generalmente una celebridad, un político u otra figura pública.
Los mejores pueden parecer extremadamente convincentes y generalmente combinan imágenes de video reales de la persona con movimientos de la boca generados por IA para que coincidan con el discurso falso. El audio combina palabras y frases reales de muchas horas de metraje original o genera imitaciones realistas de la voz a partir de los mismos datos de entrenamiento.
Obviamente, los deepfakes tienen un enorme potencial de daño, desde estafar a las personas hasta quitarles dinero pasando por dar credibilidad, pasando por engaños y desinformación política destinada a influir en los resultados electorales.
NBC informa sobre el ejemplo de MrBeast.
La estrella de YouTube MrBeast, cuyo nombre real es Jimmy Donaldson, pregunta si las plataformas de redes sociales están preparadas para lidiar con anuncios falsos de inteligencia artificial después de que un anuncio fraudulento en TikTok presentara un deepfake de él ofreciendo iPhones de 2 dólares.
“Mucha gente está recibiendo este anuncio fraudulento mío de deepfake... ¿están las plataformas de redes sociales preparadas para manejar el aumento de los deepfakes de IA? Este es un problema grave”, Donaldson publicó en X, anteriormente conocido como Twitter. Cuando se le pidió un comentario, un portavoz de Donaldson dirigió a NBC News a la publicación.
TikTok dijo que había eliminado el vídeo y señaló su política que exige la divulgación de medios sintéticos o manipulados.
CNET informa que Tom Hanks es otra víctima, con su imagen solía promocionar un plan dental.
Tom Hanks es bastante reconocible, ya sea que esté sosteniendo una caja de chocolates en Forrest Gump o usando un traje espacial en el Apolo 13. Pero si ve un anuncio de seguro dental con su foto, mire dos veces. En realidad, no es el actor ganador del Oscar.
“¡Cuidado!” Hanks escribió en Instagram este fin de semana. “Hay un vídeo que promociona un plan dental con una versión mía de IA. No tengo nada que ver con eso."
CBS Mornings también presenta a Gayle King.
King hizo una publicación similar en Instagram el lunes.
“La gente sigue enviándome este vídeo y preguntándome sobre este producto y no tengo NADA que ver con esta empresa”, escribió King. “Publiqué este video promocionando mi programa de radio el 31 de agosto (desliza para ver el original), y han manipulado mi voz y mi video para que parezca que lo estoy promocionando... Nunca escuché de este producto ni usé ¡él! No se dejen engañar por estos videos de IA”.
La controversia más amplia sobre la aplicación de videos cortos administrada por China continúa, y muchos temen que los feeds generados algorítmicamente puedan usarse para transmitir contenido pro-chino y anti-occidental a los usuarios.
TNW informa que el profesor de la Universidad de Nueva York, Scott Galloway, dijo en una conferencia en Helsinki que la aplicación era una amenaza para la seguridad nacional. seguridad.
Galloway describió a TikTok como probablemente “la empresa de tecnología más ascendente de la historia” y “una amenaza para la defensa nacional” […] “Han implantado un conector neuronal en la red de nuestra juventud”, dijo Galloway […\ ]
Galloway teme que el PCC le esté lavando el cerebro a esta audiencia. “Si yo fuera ellos, pondría mi pulgar con delicadeza, insidiosa, encubierta y elegantemente en la escala del contenido antioccidental y en la escala del contenido pro-China”, dijo.