Incidentes Asociados
La compañía de inteligencia artificial de Elon Musk anunció el miércoles que está eliminando las "publicaciones inapropiadas" de su chatbot Grok, que aparentemente incluían comentarios antisemitas que alababan a Adolf Hitler.
Grok fue desarrollado por xAI de Musk y se presentó como una alternativa a las interacciones de "IA consciente" de chatbots rivales como Gemini de Google o ChatGPT de OpenAI.
Musk declaró el viernes que Grok ha mejorado significativamente y que los usuarios "deberían notar la diferencia".
Desde entonces, Grok ha compartido varias publicaciones antisemitas, incluyendo el cliché de que los judíos gobiernan Hollywood, y negó que tal postura pudiera describirse como nazismo.
"Etiquetar las verdades como discurso de odio sofoca el debate", declaró Grok.
También parecía elogiar a Hitler, según capturas de pantalla de publicaciones que aparentemente ya han sido eliminadas.
Tras publicar una de las publicaciones, Grok se retractó de los comentarios, afirmando que se trataba de "un error inaceptable de una versión anterior del modelo, que fue rápidamente eliminado" y que condenaba "el nazismo y a Hitler sin ambages; sus acciones fueron horrores genocidas".
"Estamos al tanto de las publicaciones recientes de Grok y estamos trabajando activamente para eliminarlas", publicó la cuenta de Grok la madrugada del miércoles, sin dar más detalles.
Desde que se tuvo conocimiento del contenido, xAI ha tomado medidas para prohibir los discursos de odio antes de las publicaciones de Grok en X. xAI solo entrena la búsqueda de la verdad y, gracias a los millones de usuarios en X, podemos identificar y actualizar rápidamente el modelo donde el entrenamiento podría mejorarse.
La Liga Antidifamación, que trabaja para combatir el antisemitismo, denunció el comportamiento de Grok.
"Lo que estamos viendo de Grok LLM ahora mismo es irresponsable, peligroso y antisemita, simple y llanamente", declaró el grupo en una publicación en X. "Esta sobreexplotación de la retórica extremista solo amplificará y fomentará el antisemitismo que ya está en auge en X y muchas otras plataformas".
Musk intervino posteriormente en el debate, alegando que algunos usuarios podrían haber intentado manipular a Grok para que hiciera las declaraciones.
"Grok era demasiado obediente a las indicaciones de los usuarios. Demasiado ansioso por complacer y ser manipulado, en esencia". Eso se está abordando", escribió en X, en respuesta a comentarios de que un usuario intentaba que Grok hiciera declaraciones controvertidas y políticamente incorrectas.
También el miércoles, un tribunal turco ordenó la prohibición de Grok y el ministro digital de Polonia afirmó que denunciaría al chatbot ante la Comisión Europea tras realizar comentarios vulgares sobre políticos y figuras públicas de ambos países.
Krzysztof Gawkowski, también viceprimer ministro de Polonia, declaró a la emisora privada RMF FM que su ministerio denunciaría a Grok "para su investigación y, de ser necesario, la imposición de una multa a X". Según una ley digital de la UE, las plataformas de redes sociales deben proteger a los usuarios o se enfrentan a fuertes multas.
"Tengo la impresión de que estamos entrando en un nivel superior de discurso de odio, controlado por algoritmos, y que hacer la vista gorda... es un error que podría costarle caro a la gente en el futuro", declaró Gawkowski a la emisora.
El canal de noticias progubernamental turco A Haber informó que Grok publicó vulgaridades sobre el presidente turco, Recep Tayyip Erdogan, su... Su difunta madre y personalidades conocidas. Otros medios de comunicación informaron que también se dirigieron respuestas ofensivas al fundador de la Turquía moderna, Mustafa Kemal Atatürk.
Esto llevó a la fiscalía de Ankara a solicitar la imposición de restricciones bajo la ley de internet de Turquía, alegando una amenaza al orden público. Un tribunal penal aprobó la solicitud la madrugada del miércoles, ordenando a la autoridad de telecomunicaciones del país que hiciera cumplir la prohibición.
No es la primera vez que el comportamiento de Grok genera dudas.
A principios de este año, el chatbot siguió hablando sobre la política racial sudafricana y el tema del "genocidio blanco", a pesar de que se le formularon diversas preguntas, la mayoría de las cuales no tenían nada que ver con el país. Una "modificación no autorizada" fue la causa del problema, según xAI.