Incidentes Asociados
¿Cómo deberíamos sentirnos cuando una operación periodística basada en inteligencia artificial acusa falsamente a alguien de asesinato? ¿Y si la persona acusada falsamente es una figura pública? Sé que últimamente hay algunas preguntas sobre dónde debería recaer la responsabilidad cuando un sistema de inteligencia artificial alucina, pero en este caso parece bastante claro quién es el culpable: una fábrica de lodos de inteligencia artificial que vende tonterías llamada “Hoodline” y que está dirigida por una empresa llamada Impress3.
Hemos escrito varias veces sobre el crecimiento de un periodismo de IA absolutamente horrible, en el que los sitios de noticias de mala calidad (a menudo heredados) están reemplazando a los periodistas por periodistas de IA terriblemente escritos, propensos a mentir, con aparentemente cero revisión editorial. Como he dicho, creo que hay lugares en los que las herramientas de IA generativa pueden ser útiles en el periodismo, pero no es en la escritura de historias de forma independiente sin ninguna revisión. De hecho, utilizo herramientas de IA para interrogar todo que escribo (incluido este artículo, que no le gustó mucho a la IA) antes de que un editor humano lo revise.
Pero, aparentemente, a otros no les importa mucho, incluido “Hoodline”. De hecho, los mencionamos hace unos meses en una de nuestras historias sobre sitios de noticias que contienen información falsa de IA.
Hace unos días, estaba leyendo las noticias recomendadas por Google News y una historia me llamó la atención: ¡afirmaba que el fiscal del condado de San Mateo había sido acusado de asesinato!
¡Parecía que sería una gran noticia! Especialmente en el condado de San Mateo, donde vivo. Y ni siquiera había oído nada al respecto. El artículo comienza afirmando nuevamente que el fiscal de distrito de San Mateo había sido acusado de asesinato.
Tras una audiencia preliminar, el fiscal de distrito del condado de San Mateo, John Caisiano Thompson, de 56 años, está detenido para responder por todos los cargos relacionados con el presunto asesinato de una mujer en su residencia a pesar de que el cuerpo de la víctima sigue sin encontrarse. Según un relato oficial de X de la Oficina del fiscal de distrito del condado de San Mateo, Thompson fue detenido después de una investigación colaborativa de la Oficina del fiscal de distrito y el Departamento de Policía de East Palo Alto, que inicialmente comenzó como una búsqueda de una persona desaparecida.
Cuando leí esto por primera vez, me pregunté si la oficina del fiscal de distrito del condado de San Mateo había entregado esto a otro fiscal de distrito para evitar el conflicto de intereses. Pero no se habló de nada de eso en el artículo. De hecho, cuanto más leía el artículo, más claro me resultaba que en realidad no se trataba del fiscal del condado de San Mateo. Era solo un tipo al que arrestaron hace un tiempo al que finalmente acusaron.
Sí, hay una pequeña “IA” junto a la firma del reportero, lo que debería haberme dado una pista. Pero ni siquiera estaba mirando la firma, e incluso si lo hubiera hecho, probablemente no habría notado el pequeño ícono de “IA”.
Entonces, ¿qué pasó? Bueno, la cuenta de Nafnlaus en Bluesky lo descubrió.
De hecho, estaba tratando de hacer una historia a partir de un tuit de la cuenta ExTwitter del fiscal del condado de San Mateo. Pero cuando la IA lo analizó, fusionó el nombre de la cuenta “Fiscal de distrito del condado de San Mateo” con el inicio del tuit, que comienza con el nombre del acusado. Así que, al fusionarlos, parece que ese nombre es el del fiscal.
Cuando se analiza, parece:
Y la IA es demasiado estúpida para darse cuenta de esto o para hacer una simple búsqueda y darse cuenta de que el fiscal del condado de San Mateo es en realidad Stephen Wagstaffe. Ya sabes, el tipo de cosas que un humano podría comprobar.
De todos modos, esta es otra razón más por la que esta no es la forma correcta de utilizar la IA en el periodismo. Me pregunto por qué Google incluye un sitio como Hoodline en Google News cuando publica este tipo de tonterías. Esto también debería alertar a la gente de que cualquier sitio administrado por Impress3 no es en absoluto confiable, especialmente Hoodline.