Incidentes Asociados
Grok, el chatbot desarrollado por xAI, la empresa fundada por Elon Musk, eliminó el martes publicaciones en redes sociales que calificó de "inapropiadas" tras las quejas de usuarios de X y de la Liga Antidifamación (ADL) de que Grok producía contenido con tropos antisemitas y elogios a Adolf Hitler (https://www.france24.com/en/tag/adolf-hitler/).
Los problemas de sesgo político, incitación al odio y precisión de los chatbots de IA han sido motivo de preocupación desde al menos el lanzamiento de ChatGPT de OpenAI en 2022.
"Tenemos conocimiento de las publicaciones recientes de Grok y estamos trabajando activamente para eliminar las publicaciones inapropiadas", publicó Grok en X.
"Desde que se tuvo conocimiento del contenido, xAI ha tomado medidas para prohibir la incitación al odio antes de que Grok publique en X. xAI se entrena únicamente en la búsqueda de la verdad y, gracias a los millones de usuarios en X, podemos identificar y actualizar rápidamente el modelo donde se pueda mejorar el entrenamiento".
La ADL, una organización sin fines de lucro creada para combatir el antisemitismo, instó a Grok y a otros productores de software de Modelos de Lenguaje Largos (Lenguaje Largo) que produce texto con sonido humano a evitar "producir contenido basado en el odio antisemita y extremista".
"Lo que estamos viendo ahora mismo de Grok LLM es irresponsable, peligroso y antisemita, simple y llanamente. Esta sobreexplotación de la retórica extremista solo amplificará y fomentará el antisemitismo que ya está en auge en X y muchas otras plataformas", declaró ADL en X.
En mayo, después de que los usuarios se dieran cuenta de que Grok había mencionado el tema del "genocidio blanco" en Sudáfrica en conversaciones no relacionadas con otros asuntos, xAI lo atribuyó a un cambio no autorizado en el software de respuesta de Grok.
El mes pasado, Musk prometió una actualización de Grok, sugiriendo que había "demasiada basura en cualquier modelo base entrenado con datos sin corregir".
El martes, Grok sugirió que Hitler sería el más indicado para combatir el odio antiblanco, afirmando que "detectaría el patrón y lo abordaría con decisión".
Grok también se refirió a Hitler positivamente como "el hombre del bigote de la historia" y comentó que las personas con apellidos judíos eran responsables del activismo antiblanco extremo, entre otras publicaciones. Grok reconoció en un momento dado que cometió un "desliz" al interactuar con los comentarios publicados por una cuenta falsa con un apellido judío común. La cuenta falsa criticaba a los jóvenes víctimas de las inundaciones en Texas llamándolos "futuros fascistas" y Grok afirmó que posteriormente descubrió que la cuenta era un "engaño de trolls para fomentar la división".
(FRANCE 24 con Reuters)