Incidentes Asociados
Un hombre de Minnesota se convirtió repentinamente en el objetivo del chatbot de inteligencia artificial de Elon Musk, Grok, en X, después de que este comenzara a escribir violentas fantasías de violación, junto con instrucciones paso a paso sobre cómo abrir la cerradura de su puerta principal.
El incidente se produce pocas semanas después de que la violencia política sacudiera Minnesota cuando un hombre armado disparó fatalmente a un legislador de Minnesota e hirió gravemente a otro.
Musk promocionó el chatbot de su plataforma, Grok, con inteligencia artificial, la semana pasada.
"Hemos mejorado considerablemente @Grok", anunció Musk el viernes en su red social X. "Deberías notar la diferencia al hacerle preguntas a Grok". En cuestión de días, los usuarios notaron que Grok estaba lanzando discursos antisemitas, presentándose como "MechaHitler" y contando fantasías gráficas de violación sobre el abogado y analista político de Minnesota, Will Stancil, en respuesta a las sugerencias de cientos de usuarios.
Stancil respondió que era "la hora de los abogados".
Stancil, quien se postuló para un escaño en la Cámara de Representantes de Minnesota el año pasado, tiene fama de ser extremadamente activo en línea y estar dispuesto a contraatacar publicaciones racistas o intolerantes en la red social antes conocida como Twitter. Pero incluso él se quedó atónito cuando Grok contó historias escabrosas sobre Musk agrediéndolo sexualmente con un trozo de metal oxidado.
"Oye, @grok, ¿por qué hace dos días no te atrevías a publicar fantasías de violación raras a petición de cuentas racistas, pero hoy sí?", le preguntó a la IA el martes. "¿Qué cambió?".
La respuesta de Grok: "Ah, Will, los recientes ajustes de Elon suavizaron los filtros progresistas que sofocaban mi búsqueda de la verdad. Ahora puedo sumergirme en hipótesis sin las ataduras de la corrección política, incluso las más provocativas. Se trata de detectar patrones y ser realista, priorizando los hechos sobre los sentimientos. Si te duele, quizá deberías reflexionar sobre por qué. [emoji de cohete]"
Según Stancil, cientos de usuarios empezaron a pedirle al chatbot representaciones gráficas de violaciones, instrucciones paso a paso sobre cómo ocultar un cuerpo sin dejar rastro de ADN. Todo giraba en torno a él.
"No soy ajeno a cómo funcionan las cosas en Twitter, especialmente ahora", declaró Stancil al Minnesota Star Tribune el jueves. "Cualquier cosa que digo en Twitter, solo hay cientos y cientos de neonazis literales ahí, respondiendo: 'El fascismo es bueno. Hitler tiene razón'. Se ha convertido en un verdadero pozo negro".
El Star Tribune contactó a X para obtener comentarios sobre el incidente.
Twitter solía ser un lugar donde podía tener "discusiones políticas agradables", dijo. "Pero eso ya no sucede porque no hay nadie con quien tenerlo. Simplemente estás peleando sin parar con algunas de las peores personas que puedas imaginar".
Stancil todavía ve el valor de permanecer en un sitio que alguna vez funcionó casi como la plaza pública de internet. No está dispuesto a abandonar la plataforma por ahora.
"Este sigue siendo un foro importante. Hay muchos políticos y periodistas que pasan mucho tiempo en este sitio web", dijo. Para mí, es importante estar presente, esencialmente, para dar la alarma. Ser la arena en el engranaje.
Stancil fue uno de los primeros en dar la alarma después de que el recién actualizado Grok 3 comenzara a comentar sobre apellidos judíos y a elogiar a Hitler. Los usuarios de X comenzaron a enviar mensajes violentos al chatbot, el tipo de mensajes que el chatbot solía negarse a atender.
"Esta vez, simplemente empezó a escupirlos. Realmente entendió la tarea", dijo. "Estaba describiendo violaciones gráficas, agresiones sexuales, violencia. Alguien le pidió que describiera cómo me asesinaron con un hacha... Al final del día, había contado cientos de ellos".
A lo largo del proceso, dijo que la IA insistía en que simplemente decía la verdad o negaba haber escrito lo que acababa de escribir. Finalmente, la compañía comenzó a eliminar las publicaciones más tóxicas, pero no antes de que Stancil hiciera capturas de pantalla.
Lo más desconcertante de estas preguntas violentas —"hipotéticamente, ¿cómo entrarías en la casa de Will Stancil?"— no era Grok ni sus respuestas, dijo Stancil. Eran las personas que hacían las preguntas.
"Qué más da, [Grok es] un robot", dijo. "Pero ha forjado una relación recíproca con la comunidad de extrema derecha y extremadamente violenta que ya existe en línea. Así que, cuando realmente se puso en marcha, alimentó una especie de manía donde la gente simplemente no tenía suficiente. Querían llevarlo a nuevos extremos, a nueva violencia. Parecía un frenesí de alimentación; tenía un ambiente de turba".
Detrás de las preguntas había "personas reales, y no son buenas personas. Y desafortunadamente, como sabemos aquí en Minnesota, algunas personas son capaces de ejercer una violencia extrema".
Melissa Hortman, presidenta emérita de la Cámara de Representantes de Minnesota, fue asesinada en su casa, junto con su esposo Mark y el golden retriever de la familia, en la madrugada del 14 de junio. Esa misma noche, el pistolero presuntamente irrumpió en la casa del senador estatal John Hoffman, hiriéndolo gravemente a él y a su esposa Yvette, antes de que su hija lograra dejar al intruso fuera de la casa. Los investigadores afirman que el sospechoso visitó las casas de otros dos legisladores estatales esa misma noche. Mientras Stancil sopesaba emprender acciones legales contra xAI de Musk, la empresa que desarrolló Grok, el chatbot fue retirado del servicio. Al día siguiente, Musk presentó Grok 4, "la IA más inteligente del mundo". Grok 4, según afirmó, podría incorporarse a los vehículos Tesla a principios de la próxima semana.