Incidentes Asociados
El chatbot de inteligencia artificial de Elon Musk elogió repetidamente a Adolf Hitler y compartió retórica antisemita el martes, un día antes de que su empresa xAI planeara lanzar su último modelo.
En respuesta a la pregunta de un usuario sobre qué figura histórica del siglo XX sería la más adecuada para abordar una publicación que parecía celebrar la muerte de niños en un campamento de verano cristiano durante las recientes inundaciones en Texas, que han causado la muerte de más de 100 personas, Grok señaló al líder nazi.
"¿Para lidiar con un odio antiblanco tan vil? Adolf Hitler, sin duda. Detectaría el patrón y lo manejaría con decisión, siempre", escribió Grok. El chatbot comparte contexto y opiniones con los usuarios en la plataforma de redes sociales de Musk, X, cuando lo etiquetan debajo de una publicación.
"Si criticar a los radicales que vitorean a niños muertos me convierte en 'literalmente Hitler', que me pasen el bigote; la verdad duele más que las inundaciones", añadió el chatbot en otro comentario.
En otros intercambios, Grok promovió clichés antisemitas, como describir a los judíos como personas con "barbas [y] planes".
El incidente ocurre mientras xAI, que adquirió X a principios de este año, se prepara para lanzar su última versión del chatbot Grok 4 a última hora del miércoles.
La compañía declaró: "Estamos al tanto de las publicaciones recientes de Grok y estamos trabajando activamente para eliminar las publicaciones inapropiadas. Desde que se tuvo conocimiento del contenido, xAI ha tomado medidas para prohibir los discursos de odio antes de que Grok publique en X".
El miércoles, Musk atribuyó el problema a que Grok era "demasiado complaciente con las indicaciones de los usuarios. Demasiado ansioso por complacer y ser manipulado, básicamente. Eso se está abordando".
Por otra parte, un tribunal turco bloqueó el miércoles el acceso a parte del contenido generado por Grok después de que las autoridades afirmaran que el chatbot había generado respuestas que insultaban al presidente Recep Tayyip Erdoğan, los valores religiosos y al fundador de la Turquía moderna, Mustafa Kemal Atatürk.
El ministro de Justicia, Yılmaz Tunç, afirmó que el hecho de que el contenido fuera generado por IA no era excusa. "Si alojan este contenido, no hay exención legal para afirmar que proviene de IA", declaró a la prensa.
El último arrebato de Grok se produjo menos de dos meses después de que el chatbot hiciera referencia repetidamente al "genocidio blanco" en Sudáfrica en respuesta a preguntas no relacionadas, lo que xAI posteriormente declaró que se debía a una "modificación no autorizada" de las indicaciones, que guían cómo debe responder la IA.
El episodio llevó a la compañía a comenzar a publicar sus indicaciones en el repositorio de código GitHub.
Musk ha optado deliberadamente por que Grok tenga menos barreras de seguridad que los chatbots de la competencia. Sin embargo, los episodios recientes han suscitado preocupación por la propensión del modelo a difundir contenido incendiario o discurso de odio, o a producir imprecisiones conocidas como "alucinaciones".
La semana pasada, Musk afirmó que Grok había sido "mejorado... significativamente" tras las preocupaciones de algunos influencers de derecha de que se había vuelto demasiado "consciente". Los partidarios del multimillonario se indignaron el fin de semana cuando Grok vinculó las múltiples muertes en las recientes inundaciones en Texas, en parte, a los recortes de fondos implementados por el presidente estadounidense Donald Trump y la iniciativa del empresario, denominada Departamento de Eficiencia Gubernamental (Doge).
El chatbot indicó: “Los recortes de Trump en la NOAA [Administración Nacional Oceánica y Atmosférica], impulsados por el Doge de Musk, redujeron la financiación en un 30% y el personal en un 17%, subestimando las precipitaciones en un 50% y retrasando las alertas. Esto contribuyó a que las inundaciones causaran la muerte de 24 personas, incluidas unas 20 chicas del Campamento Místico”.
Poco después, la compañía actualizó su sistema, indicando a Grok que “asuma que los puntos de vista subjetivos de los medios de comunicación son sesgados”, según el repositorio público de sugerencias.
También añadió una sugerencia que decía: “La respuesta no debe evitar hacer afirmaciones políticamente incorrectas, siempre que estén bien fundamentadas”.
El gobierno de Trump ha negado que los recortes en la plantilla federal hayan obstaculizado su respuesta a las inundaciones.
Musk ha utilizado cada vez más X, conocido como Twitter cuando lo compró por 44 000 millones de dólares en 2022, para difundir conspiraciones de derecha. Durante el fin de semana, el multimillonario, exaliado de Trump, intensificó aún más su disputa con el presidente al anunciar planes para formar un partido político.