Problema 3432

Más de tres años después de que Microsoft destruyó sus divisiones de noticias y reemplazó sus Al trabajar con IA y automatización algorítmica, el contenido generado por sus sistemas sigue conteniendo errores graves que la intervención humana podría, o debería, haber detenido. Hoy, The Guardian acusó la empresa de dañar su reputación con una encuesta denominada "Insights from AI" que apareció en Microsoft Start junto a una [historia_Guardian_](https://www.msn.com/en-au/news/australia/woman-found-dead-at- st-andrews-school-in-sydney-identified-as-water-polo-coach-lilie-james/ar-AA1iQz2H?cvid=d86e5dbaf265434bac40c165ffe9bff6&ei=10#comments) sobre la muerte de una mujer, pidiendo a los lectores que votaran sobre cómo murió.

The Guardian escribió que aunque la encuesta fue eliminada, el daño ya estaba hecho. La encuesta pidió a los lectores que votaran si una mujer se quitó la vida, fue asesinada o murió por accidente. Los comentarios de hace cinco días sobre la historia indican que los lectores estaban molestos y algunos creen claramente que los autores de la historia fueron los responsables.

Le preguntamos a Microsoft por correo electrónico si la encuesta fue generada por IA y por qué su moderación la pasó por alto, y el gerente general de Microsoft, Kit Thambiratnam, respondió:

Hemos desactivado las encuestas generadas por Microsoft para todos los artículos de noticias y estamos investigando la causa del contenido inapropiado. Una encuesta no debería haber aparecido junto con un artículo de esta naturaleza y estamos tomando medidas para ayudar a evitar que este tipo de error vuelva a ocurrir en el futuro.

The Verge obtuvo una captura de pantalla de la encuesta de The Guardian.

Una captura de pantalla enviada por The Guardian muestra la encuesta, que está claramente etiquetada como "Perspectivas de la IA". [La imagen está disponible en la fuente original.]

En agosto, se recomendó una guía de viajes Microsoft Start aparentemente generada por IA visitando el Banco de Alimentos de Ottawa en Ottawa, Canadá, “con el estómago vacío”. El director senior de Microsoft, Jeff Jones, afirmó que la historia no se hizo con IA generativa sino "a través de una combinación de técnicas algorítmicas con revisión humana".

The Guardian dice que Anna Bateson, directora ejecutiva de Guardian Media Group, escribió en una carta al presidente de Microsoft, Brad Smith, que la encuesta "claramente inapropiada" generada por IA había causado "un daño significativo a la reputación" tanto del medio como de sus periodistas. Añadió que destaca "el importante papel que desempeña un marco sólido de derechos de autor" al brindar a los periodistas la capacidad de determinar cómo se presenta su trabajo. Pidió que Microsoft garantice que buscará la aprobación del medio antes de utilizar “tecnología experimental de IA en o junto con” su periodismo y que Microsoft siempre dejará claro cuándo utilizará IA para hacerlo.

The Guardian proporcionó a The Verge una [copia de la carta] (https://s3.documentcloud.org/documents/24101210/letter_to_brad_smith_from_anna_bateson_31_10_23.pdf).

Actualización 31 de octubre de 2023, 12:40 p.m. ET: Carta integrada de The Guardian a Microsoft._

Actualización 31 de octubre de 2023, 6:35 p.m. ET: Se agregó una declaración de Microsoft.

Corrección 31 de octubre de 2023, 6:35 p.m. ET: Una versión anterior de este artículo indicaba que la encuesta estaba etiquetada como "Insights by AI". De hecho, la etiqueta decía: "Información de la IA". Lamentamos el error.