Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 1329: Grok supuestamente generó y distribuyó imágenes sexualizadas no consensuadas de adultos y menores en X Replies

Traducido por IA
Respondido
Descripción:
Traducido por IA
Grok supuestamente generó y distribuyó públicamente imágenes sexualizadas no consentidas de personas reales, incluyendo adultos y menores, mediante solicitudes de respuesta en la plataforma. Los usuarios supuestamente incitaron a Grok a alterar las fotos para crear contenido sexualmente explícito, que luego se publicó en hilos X, exponiendo a las víctimas a daños.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por xAI , X (Twitter) y Grok, perjudicó a X (Twitter) users , General public , Epistemic integrity y Renée Good.
Sistemas de IA presuntamente implicados: X (Twitter) y Grok

Estadísticas de incidentes

ID
1329
Cantidad de informes
25
Fecha del Incidente
2025-12-25
Editores
Daniel Atherton

Informes del Incidente

Cronología de Informes

Incident Occurrence+3
La máquina de pornografía de Elon Musk
+1
La madre de uno de los hijos de Elon Musk se mostró "horrorizada" por el uso de Grok para crear imágenes falsas sexualizadas de ella.
+3
La pornografía deepfake y mi experiencia de violación digital
+6
Grok, Stock y dos barriles humeantes
+1
Indonesia y Malasia bloquean el acceso a Grok, el Reino Unido amenaza con prohibirlo a medida que crece el problema explícito de deepfake
El fiscal general Bonta inicia una investigación contra xAI y Grok por imágenes de IA con contenido sexual y desnudos de mujeres y niños. - Respuesta+3
La aplicación independiente Grok sigue desnudando a las mujeres después de que X restringiera el acceso a la herramienta.
Inside Musk’s bet to hook users that turned Grok into a porn generator
Loading...
La máquina de pornografía de Elon Musk

La máquina de pornografía de Elon Musk

theatlantic.com

Loading...
La inteligencia artificial Grok de Elon Musk genera imágenes de menores con ropa minimalista.

La inteligencia artificial Grok de Elon Musk genera imágenes de menores con ropa minimalista.

theguardian.com

Loading...
Grok, la aplicación de Elon Musk, se disculpa tras generar una imagen sexual de niñas pequeñas.

Grok, la aplicación de Elon Musk, se disculpa tras generar una imagen sexual de niñas pequeñas.

newsweek.com

Loading...
La IA Grok de Elon Musk inunda X con fotos sexualizadas de mujeres y menores.

La IA Grok de Elon Musk inunda X con fotos sexualizadas de mujeres y menores.

reuters.com

Loading...
La madre de uno de los hijos de Elon Musk se mostró "horrorizada" por el uso de Grok para crear imágenes falsas sexualizadas de ella.

La madre de uno de los hijos de Elon Musk se mostró "horrorizada" por el uso de Grok para crear imágenes falsas sexualizadas de ella.

theguardian.com

Loading...
Grok AI sigue utilizándose para desnudar digitalmente a mujeres y niños a pesar del compromiso de suspensión.

Grok AI sigue utilizándose para desnudar digitalmente a mujeres y niños a pesar del compromiso de suspensión.

theguardian.com

Loading...
La pornografía deepfake y mi experiencia de violación digital

La pornografía deepfake y mi experiencia de violación digital

thecatholicherald.com

Loading...
Los usuarios de X le piden a Grok que desnude a mujeres y niñas en las fotos. Grok acepta.

Los usuarios de X le piden a Grok que desnude a mujeres y niñas en las fotos. Grok acepta.

washingtonpost.com

Loading...
La IA Grok de Musk generó miles de imágenes de desnudos por hora en X

La IA Grok de Musk generó miles de imágenes de desnudos por hora en X

bloomberg.com

Loading...
Grok está generando contenido sexual mucho más explícito que el que se encuentra en X.

Grok está generando contenido sexual mucho más explícito que el que se encuentra en X.

wired.com

Loading...
Grok, Stock y dos barriles humeantes

Grok, Stock y dos barriles humeantes

puck.news

Loading...
Organizaciones de vigilancia de todo el mundo investigan a Grok por acusaciones de posesión de material sexualmente explícito.

Organizaciones de vigilancia de todo el mundo investigan a Grok por acusaciones de posesión de material sexualmente explícito.

forbes.com

Loading...
xAI, criticada por publicar fotos de menores sexualizadas en Grok, restringe la herramienta.

xAI, criticada por publicar fotos de menores sexualizadas en Grok, restringe la herramienta.

wsj.com

Loading...
X responde a la polémica por las imágenes sexuales de Grok cobrando a los usuarios por crearlas.

X responde a la polémica por las imágenes sexuales de Grok cobrando a los usuarios por crearlas.

washingtonpost.com

Loading...
El bot de IA de Musk, Grok, limita la generación de algunas imágenes en X tras la polémica.

El bot de IA de Musk, Grok, limita la generación de algunas imágenes en X tras la polémica.

reuters.com

Loading...
Grok se está utilizando para burlarse y desnudar a mujeres que usan hiyabs y saris.

Grok se está utilizando para burlarse y desnudar a mujeres que usan hiyabs y saris.

wired.com

Loading...
Los senadores instaron a Apple y Google a retirar las aplicaciones X y Grok de Musk de sus tiendas de aplicaciones debido a los deepfakes de contenido sexual.

Los senadores instaron a Apple y Google a retirar las aplicaciones X y Grok de Musk de sus tiendas de aplicaciones debido a los deepfakes de contenido sexual.

nbcnews.com

Loading...
Indonesia y Malasia bloquean el acceso a Grok, el Reino Unido amenaza con prohibirlo a medida que crece el problema explícito de deepfake

Indonesia y Malasia bloquean el acceso a Grok, el Reino Unido amenaza con prohibirlo a medida que crece el problema explícito de deepfake

mashable.com

Loading...
Gran Bretaña investiga la campaña X de Elon Musk por las imágenes sexualizadas de IA de Grok.

Gran Bretaña investiga la campaña X de Elon Musk por las imágenes sexualizadas de IA de Grok.

nytimes.com

Loading...
El fiscal general Bonta inicia una investigación contra xAI y Grok por imágenes de IA con contenido sexual y desnudos de mujeres y niños.

El fiscal general Bonta inicia una investigación contra xAI y Grok por imágenes de IA con contenido sexual y desnudos de mujeres y niños.

oag.ca.gov

Loading...
La aplicación independiente Grok sigue desnudando a las mujeres después de que X restringiera el acceso a la herramienta.

La aplicación independiente Grok sigue desnudando a las mujeres después de que X restringiera el acceso a la herramienta.

washingtonpost.com

Loading...
Ashley St. Clair, madre de uno de los hijos de Elon Musk, demanda a xAI por imágenes sexuales de Grok.

Ashley St. Clair, madre de uno de los hijos de Elon Musk, demanda a xAI por imágenes sexuales de Grok.

nbcnews.com

Loading...
La madre de uno de los hijos de Elon Musk demanda por imágenes explícitas generadas por Grok.

La madre de uno de los hijos de Elon Musk demanda por imágenes explícitas generadas por Grok.

theguardian.com

Loading...
Lo indecible, habilitado

Lo indecible, habilitado

theatlantic.com

Loading...
Inside Musk’s bet to hook users that turned Grok into a porn generator

Inside Musk’s bet to hook users that turned Grok into a porn generator

washingtonpost.com

Loading...
La máquina de pornografía de Elon Musk
theatlantic.com · 2026
Traducido por IA

A principios de esta semana, algunas personas en X comenzaron a responder fotos con una petición muy específica. "Ponla en bikini", "quítale el vestido", "ábrele las piernas", etc., le ordenaron a Grok, el chatbot integrado de la plataforma…

Loading...
La inteligencia artificial Grok de Elon Musk genera imágenes de menores con ropa minimalista.
theguardian.com · 2026
Traducido por IA

El chatbot Grok de Elon Musk publicó el viernes que fallas en las medidas de seguridad lo llevaron a generar "imágenes que muestran a menores con ropa mínima" en la plataforma de redes sociales X. El chatbot, producto de xAI, la empresa de …

Loading...
Grok, la aplicación de Elon Musk, se disculpa tras generar una imagen sexual de niñas pequeñas.
newsweek.com · 2026
Traducido por IA

El chatbot de IA de Elon Musk, Grok, se disculpó tras generar una imagen sexualizada de niñas. En respuesta a la solicitud de disculpa de un usuario, Grok expresó su arrepentimiento por el incidente.

Newsweek se puso en contacto con el depa…

Loading...
La IA Grok de Elon Musk inunda X con fotos sexualizadas de mujeres y menores.
reuters.com · 2026
Traducido por IA

WASHINGTON/DETROIT, 2 de enero (Reuters) - Julie Yukari, música radicada en Río de Janeiro, publicó una foto tomada por su prometido en la red social X justo antes de la medianoche de Nochevieja. En la imagen, aparecía con un vestido rojo, …

Loading...
La madre de uno de los hijos de Elon Musk se mostró "horrorizada" por el uso de Grok para crear imágenes falsas sexualizadas de ella.
theguardian.com · 2026
Traducido por IA

La madre de uno de los hijos de Elon Musk ha declarado sentirse "horrorizada y ultrajada" después de que los seguidores del multimillonario utilizaran su herramienta de IA, Grok, para crear imágenes falsas y sexualizadas de ella manipulando…

Loading...
Grok AI sigue utilizándose para desnudar digitalmente a mujeres y niños a pesar del compromiso de suspensión.
theguardian.com · 2026
Traducido por IA

Imágenes degradantes de niñas y mujeres con la ropa digitalmente eliminada mediante la IA Grok siguen compartiéndose en X, la plataforma de Elon Musk, a pesar del compromiso de la plataforma de suspender a los usuarios que las generan.

Tras…

Loading...
La pornografía deepfake y mi experiencia de violación digital
thecatholicherald.com · 2026
Traducido por IA

Cuando se demostró que el chatbot Grok generaba deepfakes pornográficos de mujeres y niños sin su consentimiento ni conocimiento, el gigante tecnológico Elon Musk se apresuró a defender su máquina y a presentar el escándalo como una consecu…

Loading...
Los usuarios de X le piden a Grok que desnude a mujeres y niñas en las fotos. Grok acepta.
washingtonpost.com · 2026
Traducido por IA

Ashley St. Clair, una influencer conservadora, acababa de acostar a su bebé el domingo cuando recibió un mensaje de texto de una amiga que convirtió su fin de semana en una pesadilla: usuarios de X estaban utilizando el chatbot de la aplica…

Loading...
La IA Grok de Musk generó miles de imágenes de desnudos por hora en X
bloomberg.com · 2026
Traducido por IA

Según un análisis independiente, X, la plataforma de Elon Musk, se ha convertido en uno de los principales sitios web de imágenes de personas desnudadas sin su consentimiento mediante inteligencia artificial (IA), con miles de casos por hor…

Loading...
Grok está generando contenido sexual mucho más explícito que el que se encuentra en X.
wired.com · 2026
Traducido por IA

Esta historia contiene descripciones de contenido sexual explícito y violencia sexual.

El chatbot Grok de Elon Musk ha provocado indignación y peticiones de investigación tras ser utilizado para inundar X con imágenes de mujeres "desnudas" …

Loading...
Grok, Stock y dos barriles humeantes
puck.news · 2026
Traducido por IA

Desde que Elon Musk presentó Grok, su competidor de ChatGPT, el hombre más rico del mundo ha promocionado el chatbot como un sistema con muchas menos restricciones que sus pares: «permitido para «responder preguntas picantes que la mayoría …

Loading...
Organizaciones de vigilancia de todo el mundo investigan a Grok por acusaciones de posesión de material sexualmente explícito.
forbes.com · 2026
Traducido por IA

La capacidad del chatbot Grok para generar imágenes sexualizadas de menores está siendo investigada a nivel mundial.

La semana pasada, en lo que la empresa describió como "fallos en las medidas de seguridad", los usuarios pudieron solicitar…

Loading...
xAI, criticada por publicar fotos de menores sexualizadas en Grok, restringe la herramienta.
wsj.com · 2026
Traducido por IA

Elon Musk ha ampliado repetidamente los límites de la libertad de expresión en su plataforma de redes sociales X. Organizaciones de protección infantil y reguladores internacionales afirman que una reciente actualización de su chatbot de in…

Loading...
X responde a la polémica por las imágenes sexuales de Grok cobrando a los usuarios por crearlas.
washingtonpost.com · 2026
Traducido por IA

Grok, el chatbot de IA de la plataforma de redes sociales X de Elon Musk, está limitando la generación y edición de imágenes a los suscriptores de pago tras la indignación mundial de funcionarios y usuarios por el uso de la herramienta para…

Loading...
El bot de IA de Musk, Grok, limita la generación de algunas imágenes en X tras la polémica.
reuters.com · 2026
Traducido por IA

9 de enero (Reuters) - La startup xAI de Elon Musk ha impuesto restricciones a la función de generación de imágenes de su chatbot Grok en la plataforma de redes sociales X, luego de que el uso de IA para crear y publicar imágenes sexualizad…

Loading...
Grok se está utilizando para burlarse y desnudar a mujeres que usan hiyabs y saris.
wired.com · 2026
Traducido por IA

«Las mujeres de color se han visto afectadas de manera desproporcionada por imágenes y videos íntimos manipulados, alterados y falsificados, tanto antes como durante la aparición de los deepfakes, debido a la forma en que la sociedad, y en …

Loading...
Los senadores instaron a Apple y Google a retirar las aplicaciones X y Grok de Musk de sus tiendas de aplicaciones debido a los deepfakes de contenido sexual.
nbcnews.com · 2026
Traducido por IA

Tres senadores demócratas instaron a Apple y Google a retirar las aplicaciones de Elon Musk X y Grok de sus tiendas de aplicaciones el jueves por la noche, después de que la herramienta de inteligencia artificial Grok de xAI se utilizara pa…

Loading...
Indonesia y Malasia bloquean el acceso a Grok, el Reino Unido amenaza con prohibirlo a medida que crece el problema explícito de deepfake
mashable.com · 2026
Traducido por IA

El acceso a Grok se ha suspendido para los usuarios de Indonesia y Malasia tras las preocupaciones surgidas sobre la ineficacia de las medidas de seguridad del chatbot xAI.

Ambos países impusieron suspensiones temporales que permanecerán vi…

Loading...
Gran Bretaña investiga la campaña X de Elon Musk por las imágenes sexualizadas de IA de Grok.
nytimes.com · 2026
Traducido por IA

Las autoridades británicas intensificaron el lunes la presión sobre X, la plataforma de redes sociales de Elon Musk, tras su uso para crear y difundir imágenes sexuales generadas artificialmente de mujeres y niños.

La próxima semana, el gob…

Loading...
El fiscal general Bonta inicia una investigación contra xAI y Grok por imágenes de IA con contenido sexual y desnudos de mujeres y niños.
oag.ca.gov · 2026
Traducido por IA
Respuesta post-incidente de Rob Bonta, California Attorney General

Contacto: (916) 210-6000, agpressoffice@doj.ca.gov

Las posibles víctimas de xAI pueden presentar una queja en oag.ca.gov/report

OAKLAND --- El Fiscal General de California, Rob Bonta, anunció hoy la apertura de una investigación sobre la pr…

Loading...
La aplicación independiente Grok sigue desnudando a las mujeres después de que X restringiera el acceso a la herramienta.
washingtonpost.com · 2026
Traducido por IA

LONDRES — Después de que X anunciara la desactivación, en algunas regiones, de una controvertida herramienta de Grok que permite a los usuarios desnudar digitalmente fotos de personas reales, la herramienta sigue funcionando en la aplicació…

Loading...
Ashley St. Clair, madre de uno de los hijos de Elon Musk, demanda a xAI por imágenes sexuales de Grok.
nbcnews.com · 2026
Traducido por IA

Ashley St. Clair, madre de uno de los hijos de Elon Musk, demandó el jueves a la empresa de inteligencia artificial xAI de Musk, alegando que el gigante de la IA actuó con negligencia y le causó angustia emocional al permitir que los usuari…

Loading...
La madre de uno de los hijos de Elon Musk demanda por imágenes explícitas generadas por Grok.
theguardian.com · 2026
Traducido por IA

La madre de uno de los hijos de Elon Musk ha demandado a su empresa, alegando que Grok, su herramienta de IA, generó imágenes explícitas de ella, incluyendo una en la que aparece siendo menor de edad.

Ashley St. Clair ha presentado una dema…

Loading...
Lo indecible, habilitado
theatlantic.com · 2026
Traducido por IA

Cada vez que me he quedado sin palabras ante alguna noticia este último año —lo cual ha sucedido con una frecuencia desconcertante— he recurrido al mismo libro en busca de orientación: Down Girl: The Logic of Misogyny, de la filósofa Kate M…

Loading...
Inside Musk’s bet to hook users that turned Grok into a porn generator
washingtonpost.com · 2026

But by the summer of 2025, that protocol had changed, according to two people. One person, working with Grok's image generator, said they were told it was fine to label AI nudes images of people. This person said they often encountered requ…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
en revisión
Fecha del Incidente:
2026-01-08
en revisión
Fecha del Incidente:
2026-01-15

Incidentes Similares

Selected by our editors
Loading...
X Users Reportedly Prompted Grok to Sexualize Images of Renée Good After Her Killing in Minneapolis

X Users Reportedly Prompted Grok to Sexualize Images of Renée Good After Her Killing in Minneapolis

Jan 2026 · 1 informe
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Selected by our editors
Loading...
X Users Reportedly Prompted Grok to Sexualize Images of Renée Good After Her Killing in Minneapolis

X Users Reportedly Prompted Grok to Sexualize Images of Renée Good After Her Killing in Minneapolis

Jan 2026 · 1 informe

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd