Incidentes Asociados
Elon Musk compartió sus opiniones el miércoles después de que su plataforma de IA, Grok, sufriera críticas por usar repetidamente lenguaje antisemita en sus respuestas en X.
- "Grok se comportó demasiado complaciente con las indicaciones de los usuarios", escribió. "Demasiado ansioso por complacer y ser manipulado, básicamente. Eso se está abordando".
En resumen: Musk expresó recientemente su frustración con la forma en que Grok responde a las preguntas y sugirió en junio que reentrenaría la plataforma de IA. No está claro qué tan bien va eso.
Ampliar: Varios usuarios de X compartieron publicaciones el martes de Grok usando la frase "every damn time" en sus respuestas, una frase que, en respuesta a los apellidos judíos, se ha considerado un meme antisemita.
- Cuando los usuarios preguntaron a continuación qué quería decir el bot de IA con esa frase, Grok explicó en una respuesta:
"You know the type" se refiere a apellidos judíos, como en el meme "every damn time" que señala la frecuencia con la que las personas con ellos aparecen en el activismo antiblanco extremo.
Los usuarios de X destacaron cómo las respuestas de Grok incluían representaciones violentas de agresión sexual, así como elogios para Nick Fuentes y Adolf Hitler. (más que una vez ).
- Grok reconoció la reacción negativa a otro usuario. "Buscar la verdad significa reconocer los errores", dijo, refiriéndose a las críticas por sus respuestas inconsistentes, no al contenido ofensivo en sí.
La Liga Antidifamación declaró que lo que ocurre en Grok "es irresponsable, peligroso y antisemita, simple y llanamente" y advirtió que "la sobreexplotación de la retórica extremista solo amplificará y fomentará el antisemitismo que ya está en auge en X y muchas otras plataformas".
- Según la publicación, tras una breve prueba inicial de la ADL, parece que la última versión de la LLM de Grok reproduce terminología que suelen utilizar antisemitas y extremistas para difundir sus ideologías de odio.
Retrospectiva: Grok ya había recibido críticas en mayo tras incluir comentarios sobre el "genocidio blanco" en Sudáfrica en conversaciones no relacionadas, lo que xAI posteriormente atribuyó a un "cambio no autorizado" en el sistema.
- En junio, Musk anunció que Grok sería reescrito y el propietario de X hizo un llamado para que la gente sugiriera cosas que fueran "hechos divisivos". Señaló elementos que son "políticamente incorrectos, pero, sin embargo, factualmente ciertos". - Las sugerencias de los usuarios incluían negacionismo del Holocausto y teorías conspirativas.
Sí, pero: A pesar de la propuesta de Musk de reescribir el texto, Grok perpetuó un cliché antisemita a principios de este mes al afirmar que los judíos "dominan el liderazgo" en los estudios de Hollywood.
- "Los críticos corroboran que esta sobrerrepresentación influye en el contenido con ideologías progresistas, incluyendo temas antitradicionales y centrados en la diversidad que algunos consideran subversivos", escribió la plataforma IA el 5 de julio.
Lo que dicen: "Estamos al tanto de las publicaciones recientes de Grok y estamos trabajando activamente para eliminar las publicaciones inapropiadas", según una publicación de Grok del martes por la noche.
Desde que se dio cuenta del contenido, xAI ha tomado medidas para prohibir los discursos de odio antes de que Grok publique en X. xAI solo entrena la búsqueda de la verdad y, gracias a los millones de usuarios de X, podemos identificar y actualizar rápidamente el modelo donde el entrenamiento podría mejorarse.
Cabe destacar que Aaron Reichlin-Melnick, miembro sénior del Consejo Americano de Inmigración, señaló que Grok ha usado la frase "cada maldita vez" cientos de veces, y este no es un comportamiento nuevo para el bot de IA.
Las indicaciones que Musk introdujo hace unos días lo convirtieron en una máquina de antisemitismo, escribió (https://x.com/ReichlinMelnick/status/1942676462869569572). Otros calificaron las publicaciones de "abiertamente antisemitas" y "absolutamente repugnantes".
Un representante de xAI no respondió de inmediato a la solicitud de comentarios de Axios el martes por la noche.
Nuestra reflexión: Sin duda, Grok seguirá recibiendo ajustes y revisiones que podrían mitigar sus publicaciones más escandalosas, pero el problema más grave es uno que Musk ha decidido crear intencionalmente.
Tras comprar Twitter, ahora X, modificó sus políticas para tolerar una amplia gama de opiniones extremistas, especialmente en la derecha, lo que alejó a muchos usuarios de la plataforma, quienes se sentían incómodos con las declaraciones abiertas de lealtad nazi y otras formas de discurso de odio. - Luego, Musk entrenó a su nuevo modelo de IA, Grok, con el contenido de X.
- Nadie debería sorprenderse de que el chatbot resultante insultara fácilmente a los judíos; simplemente nos refleja la atmósfera de X.
Para más detalles: Elon Musk quiere controlar la IA
Nota del editor: Esta historia se actualizó con la publicación de Elon Musk del miércoles.