Incidentes Asociados
En 2015, Google fue criticado cuando su sistema de reconocimiento de imágenes Photos etiquetó erróneamente a una mujer negra como un gorila, pero dos años después, el problema aún no se ha solucionado correctamente. En cambio, Google ha censurado las etiquetas de imágenes relacionadas con muchos primates.
Lo nuevo: Wired probó Google Photos nuevamente con un montón de fotos de animales. El software podría identificar criaturas desde pandas hasta caniches con facilidad. ¿Pero imágenes de gorilas, chimpancés y chimpancés? Nunca fueron etiquetados. Wired confirmó con Google que esas etiquetas están censuradas.
Pero: algunos de los otros sistemas de visión por computadora de Google, como Cloud Vision, pudieron etiquetar correctamente fotos de gorilas y proporcionar respuestas a los usuarios. Eso sugiere que la eliminación de la etiqueta es un movimiento de relaciones públicas vergonzoso específico de la plataforma.
Más grande que la censura: el sesgo humano existe en conjuntos de datos en todas partes, lo que refleja las facetas de la humanidad que preferimos que las máquinas no aprendan. Pero reducir y eliminar ese sesgo requerirá mucho más trabajo que simplemente incluir etiquetas en la lista negra.