Problema 4062

TikTok publicó por error un enlace a una versión interna de su nueva herramienta de avatar digital con inteligencia artificial sin restricciones, lo que permite a los usuarios crear videos que dicen prácticamente cualquier cosa. El problema fue detectado por primera vez por CNN (https://www.cnn.com/2024/06/21/business/video/tiktok-ai-avatar-disinformation-hitler-digivid) y permitió al medio generar videos que contenían citas de Hitler y un mensaje que decía a la gente que bebiera lejía, entre otras frases. TikTok ha eliminado esta versión de la herramienta, mientras que la versión que TikTok tenía previsto lanzar sigue disponible.

Lanzados a principios de esta semana, los avatares digitales Symphony de TikTok [https://newsroom.tiktok.com/en-us/announcing-symphony-avatars] permiten a las empresas generar anuncios utilizando la imagen de actores pagos. También utiliza un doblaje impulsado por IA que permite a los anunciantes ingresar un guión para que los avatares digan lo que quieren dentro de las pautas de TikTok. Aunque solo los usuarios con una cuenta de TikTok Ads Manager pueden acceder a esta herramienta, la versión que encontró CNN permite que cualquiera con una cuenta personal lo intente.

En una declaración a The Verge, la portavoz de TikTok, Laura Pérez, dice que TikTok ha resuelto el "error técnico" que "permitió a un número extremadamente pequeño de usuarios crear contenido utilizando una versión de prueba interna de la herramienta durante unos días".

Cuando CNN descubrió la herramienta interna, permitió que el medio generara videos recitando la “Carta a Estados Unidos” de Osama bin Laden, un eslogan de la supremacía blanca, y un video que le decía a la gente que votara el día equivocado. Ninguno de los videos que produjo CNN tenía una marca de agua que revelara que el video fue generado por IA, que es algo que sí tiene la versión correcta de Symphony Digital Avatars de TikTok.

CNN no publicó los videos que creó en TikTok, pero Pérez señala que si lo hubiera hecho, el contenido “habría sido rechazado por violar nuestras políticas”. Aunque TikTok ha eliminado esta versión de su herramienta, esto pone en duda si la gente encontrará otras formas de abusar del creador de avatares digitales, y si TikTok está listo para ello.