Incidentes Asociados
La decisión de Microsoft de reemplazar a los periodistas humanos con robots resultó contraproducente, luego de que el software de inteligencia artificial de la compañía de tecnología ilustrara una noticia sobre el racismo con una foto del miembro mestizo equivocado de la banda Little Mix.
Una semana después de que The Guardian revelara planes para despedir a los editores humanos que ejecutan MSN.com y reemplazarlos con el código de inteligencia artificial de Microsoft, un lanzamiento temprano del software resultó en una historia sobre las reflexiones personales de la cantante Jade Thirlwall sobre el racismo ilustradas con una imagen. de su compañera de banda Leigh-Anne Pinnock.
Thirlwall, quien asistió a una protesta reciente de Black Lives Matter en Londres, criticó a MSN el viernes y dijo que estaba harta de que los medios "ignorantes" cometieran tales errores. Ella publicó en Instagram: “@MSN Si va a copiar y pegar artículos de otros medios de comunicación precisos, es posible que desee asegurarse de que está usando una imagen del miembro mestizo correcto del grupo”.
“Esta mierda le sucede a @leighannepinnock y a mí TODO EL TIEMPO que se ha convertido en una broma corriente”, dijo. “Me ofende que no pudieras diferenciar a las dos mujeres de color de cuatro integrantes de un grupo… ¡HAZLO MEJOR!”
Lo que Thirlwall no podía saber, según fuentes de la empresa, es que la imagen fue seleccionada por el software de inteligencia artificial de Microsoft, que ya se encarga de editar partes del sitio de noticias, que atrae a cientos de millones de lectores en todo el mundo.
Una publicación de Instagram Stories de Jade Thirlwall criticando el servicio de noticias de MSN. Fotografía: Jade Thirlwall
Microsoft no realiza reportajes originales, pero emplea a editores humanos para seleccionar, editar y reutilizar artículos de medios de comunicación, incluido The Guardian. Luego, los artículos se alojan en el sitio web de Microsoft y la empresa de tecnología comparte los ingresos por publicidad con los editores originales. A fines del mes pasado, Microsoft decidió despedir a cientos de periodistas en medio de una pandemia y reemplazarlos por completo con el software de inteligencia artificial.
Cuando se le preguntó por qué Microsoft estaba implementando un software que no puede diferenciar a las personas de raza mixta, si un aparente sesgo racista podría filtrarse en las implementaciones del software de inteligencia artificial de la compañía por parte de las principales corporaciones y si la compañía reconsideraría los planes para reemplazar a los editores humanos con robots, un portavoz para la compañía de tecnología dijo: “Tan pronto como nos dimos cuenta de este problema, inmediatamente tomamos medidas para resolverlo y reemplazamos la imagen incorrecta”.
Antes de la publicación de este artículo, se le dijo al personal de MSN que esperara un artículo negativo en The Guardian sobre supuestos prejuicios racistas en el software de inteligencia artificial que pronto les quitará el trabajo.
Debido a que no pueden evitar que el nuevo robot editor seleccione historias de sitios de noticias externos como The Guardian, se le ha dicho al personal humano restante que se mantenga alerta y elimine una versión de este artículo si el robot decide que es de interés y lo publica automáticamente. en MSN.com. También se les advirtió que incluso si lo eliminan, el editor del robot puede anularlos e intentar publicarlo nuevamente.
El personal ya tuvo que eliminar la cobertura que criticaba a MSN por publicar la historia sobre Little Mix con la imagen incorrecta después de que el software de inteligencia artificial decidiera que las historias sobre el incidente interesarían a los lectores de MSN.
Un miembro del personal dijo que Microsoft estaba profundamente preocupado por el daño a la reputación de su producto de inteligencia artificial: "Con todas las protestas contra el racismo en este momento, ahora no es el momento de cometer errores".