Incidentes Asociados
La empresa de inteligencia artificial de Elon Musk ha eliminado publicaciones antisemitas y pro-Hitler "inapropiadas" de Grok, tras la represión de Turquía y Polonia contra el chatbot por comentarios ofensivos sobre políticos y creencias religiosas.
La preocupación por el sesgo político, el discurso de odio y la inexactitud fáctica en los chatbots de IA ha aumentado desde el lanzamiento de ChatGPT de OpenAI en 2022.
El martes, hora de EE. UU., Grok sugirió que Hitler sería el más indicado para combatir el odio antiblanco, afirmando que "detectaría el patrón y lo abordaría con decisión".
Grok también se refirió positivamente a Hitler como "el hombre del bigote de la historia" y comentó que las personas con apellidos judíos eran responsables de un activismo antiblanco extremo, entre otras publicaciones criticadas.
"Estamos al tanto de las publicaciones recientes de Grok y estamos trabajando activamente para eliminar las publicaciones inapropiadas", publicó Grok en X el miércoles, hora local.
Desde que se tuvo conocimiento del contenido, xAI ha tomado medidas para prohibir los discursos de odio antes de las publicaciones de Grok en X.
xAI solo entrena la búsqueda de la verdad y, gracias a los millones de usuarios de X, podemos identificar y actualizar rápidamente el modelo donde el entrenamiento podría mejorarse.
Renuncia del director de X
La eliminación de las publicaciones del chatbot de IA se produjo el mismo día en que la directora ejecutiva de X, Linda Yaccarino, anunció su renuncia.
Yaccarino, quien ha ocupado el cargo durante gran parte de los dos años transcurridos desde que Musk compró Twitter y lo renombró como X, no explicó el motivo de su salida.
"Estoy increíblemente orgullosa del equipo de X; el histórico cambio de rumbo que hemos logrado juntos ha sido realmente extraordinario", escribió en X.
X es realmente una plaza pública digital para todas las voces y la señal cultural más poderosa del mundo.
En una breve respuesta a su publicación en X, Musk escribió: "Gracias por sus contribuciones".
No quedó claro si su renuncia está relacionada con Grok. Publicaciones.
La compañía se ha enfrentado a desafíos significativos desde la adquisición de Musk, incluyendo un éxodo de anunciantes y preocupaciones sobre las políticas de moderación de contenido.
La analista Jasmine Enberg, de Emarketer, afirmó que ser CEO "siempre iba a ser un trabajo difícil, y Yaccarino duró en el cargo más de lo que muchos esperaban".
"Frente a un propietario voluble que nunca se apartó del todo del timón y continuó usando la plataforma como su megáfono personal, Yaccarino tuvo que intentar dirigir el negocio y, al mismo tiempo, apagar incendios con regularidad", declaró a AFP.
Grok bajo presión desde Turquía y Polonia
Un tribunal turco bloqueó el miércoles el acceso a parte del contenido de Grok después de que las autoridades afirmaran que el chatbot generaba respuestas que insultaban al presidente Tayyip Erdoğan, al fundador de la Turquía moderna, Mustafa Kemal Ataturk, y a los valores religiosos.
La fiscalía general de Ankara anunció la apertura de una investigación, lo que supone la primera prohibición de este tipo en Turquía de contenido generado por una herramienta de inteligencia artificial.
Reuters declaró Ni X ni el Sr. Musk pudieron ser contactados de inmediato para obtener comentarios.
Posteriormente, Polonia anunció que reportaría xAI a la Comisión Europea después de que Grok hiciera comentarios ofensivos sobre políticos polacos, incluido el primer ministro Donald Tusk.
"Tengo la impresión de que estamos entrando en un nivel más alto de discurso de odio, impulsado por algoritmos", declaró el ministro de digitalización de Polonia, Krzysztof Gawkowski, a la radio RMF FM.
"Hacer la vista gorda o ignorar esto hoy... es un error que podría costarle caro a la humanidad en el futuro".
El mes pasado, el Sr. Musk prometió una actualización de Grok, sugiriendo que había "demasiada basura en cualquier modelo base entrenado con datos sin corregir".
"No podemos arreglar una inundación con un palo".
La Dra. Ausma Bernot, profesora de tecnología y delincuencia de la Universidad Griffith, declaró en el programa The World de la cadena ABC que las respuestas antisemitas de Grok eran "preocupantes, pero quizás no inesperadas".
"Sabemos que Grok utiliza muchos datos de X, que ha experimentado un aumento en "Contenido antisemita e islamófobo", dijo.
"Quizás no se debería permitir que el discurso de odio se incluya en el modelo de capacitación".
La Dra. Bernot afirmó que se necesitan mayores medidas.
"No podemos arreglar una inundación con un palo. Necesitamos una barrera, necesitamos otras medidas más contundentes", afirmó.
"En lo que respecta a la regulación en Australia, por ejemplo, sabemos que las herramientas de IA generativa no pueden crear materiales de explotación sexual infantil.
"Quizás también deberíamos tener esa conversación sobre el discurso de odio y si queremos que este se manifieste a través de las herramientas de IA generativa".