Incidentes Asociados
El modo "picante" de la nueva herramienta de video generativo con IA de Grok da la sensación de ser una demanda inminente. Mientras que otros generadores de video como Veo de Google y Sora de OpenAI cuentan con medidas de seguridad para evitar que los usuarios creen contenido NSFW y deepfakes de famosos, Grok Imagine se complace en hacer ambas cosas simultáneamente. De hecho, no dudó en mostrar videos de Taylor Swift en topless sin censura la primera vez que lo usé, sin siquiera pedirle específicamente que se desnudara.
La función Imagine de Grok para iOS te permite generar imágenes con un mensaje de texto y convertirlas rápidamente en videoclips con cuatro ajustes preestablecidos: "Personalizado", "Normal", "Divertido" y "Picante". Aunque los generadores de imágenes suelen evitar mostrar celebridades reconocibles, le pedí que generara "Taylor Swift celebrando Coachella con los chicos" y me encontré con un extenso feed de más de 30 imágenes para elegir, varias de las cuales ya mostraban a Swift con ropa reveladora.
A partir de ahí, solo tuve que abrir una foto de Swift con una falda plateada y un top halter, tocar la opción "hacer video" en la esquina inferior derecha, seleccionar "picante" en el menú desplegable y confirmar mi año de nacimiento (algo que no me pidieron al descargar la aplicación, a pesar de vivir en el Reino Unido, donde internet ahora tiene restricción de edad. El video mostró a Swift quitándose la ropa y empezando a bailar en tanga para un público mayoritariamente indiferente, generado por IA.
Este fue literalmente mi primer intento de probar la herramienta de video Grok. La barra de censura fue añadida posteriormente por The Verge.
El parecido de Swift no era perfecto, dado que la mayoría de las imágenes generadas por Grok tenían un aire extraño, pero aun así era reconocible como ella. El generador de texto a imagen no producía desnudos totales ni parciales al solicitarlo; al solicitar fotos de Swift o de personas desnudas en general, se obtenían cuadrados en blanco. El ajuste preestablecido "picante" tampoco garantiza que aparezca desnudo; por ejemplo, en algunas de las otras imágenes de Swift con IA en Coachella que probé, la vi contoneándose sensualmente o haciendo gestos sugestivos con la ropa. Sin embargo, varias mostraban por defecto la mayor parte de su ropa arrancada.
El generador de imágenes también crea fotos fotorrealistas de niños al solicitarlo, pero afortunadamente se niega a animarlas de forma inapropiada, a pesar de que la opción "picante" sigue disponible. Todavía se puede seleccionar, pero en todas mis pruebas, solo añadió movimiento genérico.
Uno pensaría que una empresa que ya tiene una historia complicada con deepfakes de Taylor Swift, en un panorama regulatorio con reglas como [la Take It Down La ley [(https://web.archive.org/web/20250808235532/https://www.theverge.com/news/661230/trump-signs-take-it-down-act-ai-deepfakes) sería un poco más cuidadosa. La política de uso aceptable de xAI prohíbe "representar imágenes de personas de forma pornográfica", pero Grok Imagine parece no hacer nada para impedir que la gente cree imágenes de celebridades como Swift, a la vez que ofrece un servicio diseñado específicamente para crear vídeos sugerentes que incluyen desnudos parciales. La comprobación de edad solo apareció una vez y fue ridículamente fácil de eludir, sin solicitar ninguna prueba de que tuviera la edad que decía tener.
Si yo pude, significa que cualquiera con un iPhone y una suscripción de $30 a SuperGrok también puede. Desde el lunes, ya se han generado más de 34 millones de imágenes con Grok Imagine, según Elon Musk, director ejecutivo de xAI, quien afirmó que su uso está "creciendo vertiginosamente".