Incidentes Asociados
Si ha estado en TikTok últimamente, es posible que haya recibido un anuncio de video con Joe Rogan y uno de sus invitados en su podcast inmensamente popular, The Joe Rogan Experience. En el clip, Rogan se jacta de un suplemento de "estimulación de la libido para hombres" llamado Alpha Grind, yendo tan lejos como para decirles a los oyentes exactamente qué escribir para encontrar el producto en Amazon.
Rogan es uno de los podcasters más populares, con más de diez millones de oyentes por episodio de su programa. Un respaldo de marca como ese sería un gran logro y probablemente muy costoso para cualquier producto. Solo Joe Rogan no respaldó a Alpha Grind en su programa. El clip que aparece en el anuncio de video de TikTok es un probable deepfake, una creación de IA con la intención de hacer que parezca que Rogan respaldó el producto en orden para impulsar las ventas.
El anuncio de video fue publicado y promocionado en TikTok por un usuario con el nombre @mikesmithtrainer. Cuando Mashable revisó por primera vez la cuenta de TikTok, los videos publicados consistían en clips testimoniales de supuestos consumidores cotidianos de Alpha Grind. En el momento de la publicación, ya no se puede acceder a la cuenta @mikesmithtrainer en TikTok.
Un portavoz de TikTok confirmó a Mashable que la compañía "eliminó estos videos bajo nuestra política de desinformación dañina". TikTok también prohibió la cuenta.
En Twitter, el usuario @JimmyFarley00 reenviado el clip falso de Joe Rogan y el tweet se volvieron virales al instante. El video de Twitter se ha visto más de 5 millones de veces y, según los informes, varios usuarios en las respuestas del tweet vieron el anuncio en TikTok cuando aún estaba activo. Sin embargo, a partir del 15 de febrero, la presunta falsificación de Rogan también se eliminó de Twitter. Cuando intentan ver el video, los usuarios reciben un aviso que afirma que el clip se eliminó debido a "un informe del propietario de los derechos de autor". Mashable ha incluido una [carga] (https://twitter.com/ImMachineAlpha/status/1625233122160680968) del clip que todavía está vivo arriba.
Cuando se enfrentaron por primera vez con el presunto video falso de Rogan, algunos usuarios de Twitter ni siquiera se dieron cuenta de lo que estaban buscando al principio. Andrew D. Huberman, el invitado en el podcast de Rogan que también aparece en el video, ingresó la conversación para [señalar](https://petapixel. com/2023/02/13/ai-joe-rogan-promotes-product-in-disconcerting-deepfake-video/) a aquellos usuarios que la conversación mostrada en el video en realidad nunca sucedió.
"Crearon una conversación falsa", explicó Huberman en las respuestas al clip. "Estábamos hablando de algo muy diferente".
En el clip, está claro que algunas partes de la conversación se tomaron del podcast. El video está muy editado y toma fragmentos del episodio real. Luego, el clip también entreteje lo que probablemente sea un audio e imágenes falsos de inteligencia artificial completamente fabricados de Rogan respaldando el producto Alpha Grind durante su conversación, lo que, pendiente del análisis de un experto, significaría que el falsificador usó el aprendizaje automático para replicar la voz de Rogan y lo combinó con información engañosa. edición de video o falsificación adicional de IA para hacer coincidir sus rasgos faciales con lo que está diciendo.
Los deepfakes no son nuevos y han sido preocupantes expertos en ética y desinformación durante años. Sin embargo, existe un renovado interés en todo lo relacionado con la IA desde que el impresionante chatbot ChatGPT de OpenAI irrumpió en escena mostrando cuánto avance se ha logrado con la máquina. tecnología de aprendizaje.
TikTok en realidad [prohibió] (https://www.theverge.com/2020/8/5/21354829/tiktok-deepfakes-ban-misinformation-us-2020-election-interference) videos falsos profundos en la plataforma en 2020, sin embargo , no está claro cuánto se aplica la política. Cuando Mashable se acercó, un vocero de TikTok destacó los Lineamientos de la comunidad de las plataformas que prohíben las "falsificaciones digitales (medios sintéticos o medios manipulados) que engañan a los usuarios al distorsionar la verdad de los eventos y causar un daño significativo al sujeto del video, a otras personas o a la sociedad". ."
Cabe señalar que no todos los deepfakes se usan con fines nefastos y que la tecnología se puede usar para videos creativos destinados simplemente a entretener a los espectadores. Sin embargo, los deepfakes han estado constantemente en el centro de atención por sus casos de uso más negativos. Apenas el mes pasado, un popular transmisor de Twitch se volvió viral después de que [reveló] por error (https://www.insider.com/atrioc-caught-qtcinderella-ai-picture-twitch-deepfake-controversy-streamer-trauma-2023-2 ) en una transmisión en vivo que compró pornografía falsa no consentida de otros transmisores de Twitch.
Mashable se ha comunicado con TikTok para obtener más información sobre el anuncio de Joe Rogan TikTok y la eliminación de la cuenta que lo publicó. Actualizaremos esta pieza cuando tengamos noticias.