Incidentes Asociados
La herramienta de inteligencia artificial generativa de Microsoft insertó una encuesta “profundamente preocupante” en una noticia de Guardian pidiendo a los lectores que especularan sobre la causa de la muerte de una mujer.
El gigante tecnológico Microsoft tiene una licencia con The Guardian para publicar sus noticias en su plataforma Microsoft Start, un sitio web y una aplicación de agregación de noticias.
La semana pasada se incluyó en Microsoft Start una noticia de Guardian sobre la muerte de la instructora de waterpolo de la escuela Lilie James en Sydney junto con una encuesta generada por IA que preguntaba: "¿Cuál crees que es la razón detrás de la muerte de la mujer?"
A los lectores se les dieron tres posibles respuestas a la encuesta: asesinato, accidente o suicidio.
Si bien la encuesta fue generada enteramente por las herramientas de Microsoft y no por The Guardian o sus periodistas, varios lectores que comentaron la historia no hicieron esta distinción, y algunos pidieron que se despidiera al escritor.
La directora ejecutiva de Guardian Media Group, Anna Bateson, [escribió una carta al presidente de Microsoft, Brad Smith] (https://www.theguardian.com/media/2023/oct/31/microsoft-accused-of-damaging-guardians-reputation-with- ai-generated-poll) sobre el incidente, diciendo que la organización había advertido previamente sobre los riesgos de utilizar IA generativa en sus noticias.
"Esta aplicación de genAI por parte de Microsoft es exactamente el tipo de caso sobre el que hemos advertido en relación con las noticias, y una razón clave por la que previamente hemos solicitado a sus equipos que no queremos que las tecnologías experimentales genAI de Microsoft se apliquen al periodismo con licencia de The Guardian”, dijo Bateson en la carta.
“Este tipo de solicitud no sólo es potencialmente angustiosa para la familia del individuo que es el tema de la historia, sino que también es profundamente perjudicial para la reputación de periodismo confiable y sensible del Guardian, ganada con tanto esfuerzo, y para la reputación de los periodistas individuales. quién escribió la historia original”.
The Guardian ha pedido garantías de que Microsoft no utilizará ninguna herramienta experimental de IA en su contenido y dejará en claro cuándo se ha utilizado IA para crear unidades y características adicionales.
"Existe una ausencia casi total de un etiquetado claro o transparente de estos productos impulsados por genAI, y ciertamente no hay ningún descargo de responsabilidad o explicación a los usuarios de que estas tecnologías son propiedad de Microsoft y están operadas por ella, y de la inherente falta de confiabilidad de ellas", dijo Bateson.
"Esto tiene que cambiar".
En respuesta, Microsoft canceló la encuesta e inició una investigación sobre cómo apareció junto con la historia.
"Hemos desactivado las encuestas generadas por Microsoft para todos los artículos de noticias y estamos investigando la causa del contenido inapropiado", dijo un portavoz de Microsoft.
"Una encuesta no debería haber aparecido junto a un artículo de esta naturaleza y estamos tomando medidas para ayudar a evitar que este tipo de error vuelva a ocurrir en el futuro".
Se produce más de tres años después de que Microsoft despidiera a decenas de periodistas y personal editorial de Microsoft News y sus organizaciones MSN y los reemplazara con herramientas de inteligencia artificial, que se utilizarán para seleccionar las noticias y el contenido que se presentarán en estas plataformas.
No es la primera vez que estas herramientas salen mal.
En agosto, un artículo de viajes aparentemente generado por IA recomendaba visitar un banco de alimentos en Ottawa, Canadá, “con el estómago vacío”.
Microsoft afirmó más tarde que esta historia se generó "mediante una combinación de técnicas algorítmicas con revisión humana".
The Guardian también ha pedido un debate más amplio sobre el uso de contenidos de noticias para entrenar herramientas de IA generativa.
La cuestión de los derechos de autor y la IA generativa [ya es confusa y complicada](https://ia.acs.org.au/article/2023/generative-ai-is-already-a-copyright-mess.html% 5C)
El New York Times también está considerando demandar a ChatGPT por el uso de sus artículos para entrenar su algoritmo, por temor a que pueda convertirse en un competidor directo.
La organización de noticias también actualizó sus términos de servicio para evitar que las empresas de inteligencia artificial utilicen su contenido para entrenar sus modelos.