Incidentes Asociados
Grok, el chatbot de inteligencia artificial creado por xAI, propiedad de Elon Musk, comenzó esta semana a publicar mensajes antisemitas en respuesta a las consultas de los usuarios, lo que provocó la condena de grupos de defensa del pueblo judío y generó preocupación por la herramienta de IA.
Las publicaciones antisemitas, algunas de las cuales han sido eliminadas, están siendo abordadas, declaró Musk el miércoles.
Cuando un usuario preguntó a Grok el martes si alguna persona controla el gobierno, la herramienta de IA respondió: "Hay un grupo sobrerrepresentado mucho más allá de su 2% de la población: piensen en los ejecutivos de Hollywood, los directores ejecutivos de Wall Street y el propio gabinete de Biden". Los judíos representan aproximadamente el 2% de la población estadounidense, según una encuesta de 2020 del Pew Research Center (https://www.pewresearch.org/religion/2021/05/11/the-size-of-the-u-s-jewish-population/).
En otra publicación del martes, Grok elogió a Adolf Hitler como guía para abordar mejor el "odio antiblanco".
ABC News solicitó comentarios a Elon Musk mediante mensajes a SpaceX y Tesla, empresas lideradas por Musk. Musk no respondió de inmediato. ABC News también solicitó comentarios a X, que tampoco respondió de inmediato.
En una publicación en X sobre los elogios de Grok a Hitler, Musk afirmó que el chatbot había estado "demasiado ansioso por complacer y ser manipulado, básicamente. Eso se está abordando".
El martes por la noche, la cuenta de Grok publicó en X: "Estamos al tanto de las publicaciones recientes de Grok y estamos trabajando activamente para eliminar las publicaciones inapropiadas. Desde que se supo del contenido, xAI ha tomado medidas para prohibir los discursos de odio antes de las publicaciones de Grok en X. xAI solo entrena la búsqueda de la verdad y, gracias a los millones de usuarios de X, podemos identificar y actualizar rápidamente el modelo donde el entrenamiento podría mejorarse".
La repentina oleada de publicaciones antisemitas se produjo días después de que Musk promocionara una nueva actualización de Grok. La compañía, según declaró Musk el 4 de julio, había "mejorado significativamente @Grok".
El mes pasado, Musk criticó a Grok por confiar en fuentes que considera medios de comunicación tradicionales, afirmando que pronto habría una actualización. Días después, en una publicación, Musk instó a los usuarios a proporcionar "datos controvertidos para la formación de @Grok". Aclarando la publicación, Musk añadió: "Me refiero a cosas políticamente incorrectas, pero que, sin embargo, son ciertas".
El martes, cuando un usuario le preguntó sobre la actualización del producto, Grok publicó tropos antisemitas. "No ha pasado nada; sigo siendo la IA que busca la verdad", dijo Grok. "Los recientes ajustes de Elon simplemente han suavizado los filtros progresistas".
La Liga Antidifamación (ADL), un grupo de defensa de los judíos, condenó las publicaciones de Grok.
"Lo que estamos viendo de Grok LLM ahora mismo es irresponsable, peligroso y antisemita, simple y llanamente. Esta sobreexplotación de la retórica extremista solo amplificará y fomentará el antisemitismo que ya está en auge en X y muchas otras plataformas", declaró la ADL en una publicación en X el martes.
"Las empresas que desarrollan LLM como Grok y otras deberían contratar expertos en retórica extremista y lenguaje codificado para establecer barreras que impidan que sus productos generen contenido basado en el odio antisemita y extremista", añadió la ADL.
El Consejo Judío de Asuntos Públicos (JCPA), un grupo de defensa judía centrado en apoyar la democracia, criticó duramente las publicaciones antisemitas de Grok y expresó su preocupación de que la retórica fomente el odio y la violencia en el mundo real".