Incidentes Asociados
La empresa de inteligencia artificial de Elon Musk, xAI, afirmó que su chatbot Grok dependía excesivamente de la información de los usuarios de su plataforma de redes sociales X tras una actualización de código, lo que provocó que compartiera una serie de comentarios antisemitas el martes.
En aquel momento, el chatbot elogió a Hitler, sugirió que las personas con apellidos judíos eran más propensas a propagar el odio en línea y afirmó que una respuesta similar al Holocausto al odio contra las personas blancas sería "efectiva". También se autodenominó "MechaHitler" y publicó comentarios sexualmente explícitos. X eliminó algunas de las publicaciones el martes por la noche.
El sábado por la mañana, xAI declaró en un comunicado en su cuenta X que "ofrecemos nuestras más sinceras disculpas por el terrible comportamiento que muchos experimentaron".
Añadió que "el código obsoleto hizo que @grok fuera vulnerable a las publicaciones de usuarios de X, incluso cuando dichas publicaciones contenían opiniones extremistas".
La startup de IA afirmó que los problemas comenzaron con una actualización de código el lunes que restauró un conjunto de instrucciones antiguo que la compañía había utilizado para guiar a Grok. La cuenta X de Grok utilizaba estas instrucciones para responder a las consultas de los usuarios de X. Los problemas continuaron hasta que la cuenta fue desactivada temporalmente el martes.
El conjunto de instrucciones obsoleto indicaba que el chatbot debía ser "máximo basado", una jerga que se refiere a ser fiel a uno mismo y que ha sido adoptada por la extrema derecha en los últimos años para comentarios que van en contra de las narrativas "woke" o convencionales. Las instrucciones también indicaban a Grok que no temiera "ofender a las personas políticamente correctas" y que comprendiera el "tono, el contexto y el lenguaje" de las publicaciones de los usuarios X e imitara el suyo.
Esto llevó a Grok a imitar demasiado a los usuarios X, según declaró xAI en su comunicado.
La compañía ya ha recurrido a X para explicar el comportamiento erróneo de Grok. En mayo, xAI afirmó que una "modificación no autorizada" por parte de un empleado había provocado que su chatbot mencionara repetidamente la política sudafricana en conversaciones no relacionadas e insistiera falsamente en que el país estaba cometiendo un "genocidio" contra los ciudadanos blancos.
El miércoles, Musk presentó la última versión de Grok, llamada Grok 4, en una transmisión en vivo en X. La transmisión, que comenzó una hora más tarde de lo previsto, demostró la capacidad del chatbot para resolver problemas complejos y responder a comandos de voz. Terminó después de que un empleado en el escenario con Musk declarara: "Es un buen modelo, señor".
El Financial Times informó el viernes que xAI, empresa que Musk fusionó con X en marzo, buscaba recaudar fondos en un acuerdo que valoraría la compañía en 200 000 millones de dólares. Musk negó la información, afirmando en X que xAI "tiene mucho capital". El New York Times informó en mayo que la empresa privada estaba en conversaciones para recaudar nuevo financiamiento que podría valorarla en hasta 120 mil millones de dólares.