Incidentes Asociados
La decisión de Microsoft de reemplazar a los periodistas humanos con IA para ejecutar su sitio de búsqueda y noticias MSN.com ha sido criticada después de que el sistema automatizado confundiera a dos miembros mestizos del grupo de pop británico Little Mix.
Como informó The Guardian por primera vez, los nuevos editores de robots de MSN.com seleccionaron una historia sobre la experiencia con el racismo de la cantante de Little Mix, Jade Thirlwall, para que apareciera en la página de inicio, pero usaron una foto de la compañera de banda de Thirlwall, Leigh-Anne Pinnock, para ilustrarla.
Thirlwall llamó la atención sobre el error en su historia de Instagram y escribió: “@MSN Si va a copiar y pegar artículos de otros medios de comunicación precisos, es posible que desee asegurarse de que está usando una imagen del miembro mestizo correcto. del grupo."
Añadió: "Esta mierda le sucede a @leighannepinnock y a mí TODO EL TIEMPO que se ha convertido en una broma corriente... Me ofende que no puedas diferenciar a las dos mujeres de color de los cuatro miembros de un grupo... ¡HAZLO MEJOR!".
Según The Guardian, el error lo cometieron los nuevos sistemas automatizados de Microsoft. El gigante tecnológico despidió al personal editorial de MSN a fines del mes pasado. A estos periodistas no se les encargó escribir historias, sino seleccionar artículos de otros medios para destacarlos en la página de inicio de MSN. Según los informes, alrededor de 50 periodistas fueron despedidos en los EE. UU. y 27 en el Reino Unido.
No está claro exactamente qué causó este error, pero en una declaración actualizada, Microsoft dijo que no fue el resultado de un sesgo algorítmico sino una característica experimental en el sistema automatizado.
Un portavoz le dijo a The Verge: “Si bien eliminar el sesgo y mejorar la precisión sigue siendo un área de enfoque para la investigación de IA, este error no fue el resultado de estos problemas. Al probar una nueva función para seleccionar una imagen alternativa, en lugar de usar la primera foto de manera predeterminada, se emparejó una imagen diferente en la página del artículo original con el título de la pieza. Esto hizo que pareciera erróneamente que el titular era una leyenda de la imagen”.
Sin embargo, este es exactamente el tipo de error que se supone que los editores humanos deben detectar. Sin embargo, como dejan en claro los comentarios de Thirlwall, esta está lejos de ser la primera vez que se cometen tales errores. A principios de este año, por ejemplo, la BBC se vio obligada a disculparse después de usar imágenes del jugador de baloncesto LeBron James para ilustrar la noticia de la muerte de Kobe Bryant, quienes jugaron para los Lakers en diferentes períodos de tiempo.
En particular, The Guardian informa que el personal humano restante en MSN ha sido advertido de que los medios de comunicación están publicando una cobertura crítica de los sistemas automatizados del sitio. Se le dijo al personal que la IA puede seleccionar estas historias como interesantes y colocarlas en la página de inicio de MSN. Si esto sucede, se le ha dicho al personal humano que elimine las historias.
Actualización 10 de junio, 5:59 a. m. ET: La historia se ha actualizado con una nueva declaración de Microsoft.
Corrección: la historia describía anteriormente a Kobe Bryant y LeBron James como "compañeros de equipo". Aunque jugaron en el mismo equipo no fue en la misma época.