Incidentes Asociados
Google eliminó la etiqueta 'gorila' de su nueva aplicación Fotos, luego de que un usuario notó que había archivado varias fotos de él y su amigo negro en un álbum generado automáticamente llamado 'gorilas'.
El usuario afectado, el programador informático Jacky Alciné, acudió a Twitter para publicar una prueba del error de Google Photos, junto con la pregunta: "¿Qué tipo de datos de imagen de muestra recopiló que resultarían en este hijo?"
Y son solo las fotos que tengo con ella con las que está haciendo esto (resultados truncados b/c personal): pic.twitter.com/h7MTXd3wgo
Alciné recibió rápidamente una respuesta del arquitecto social en jefe de Google, Yonatan Zunger, quien se disculpó profusamente y admitió: "Esto está 100% mal".
Solicitó permiso para examinar los datos en la cuenta de Alciné y luego prometió implementar una solución. Después de un par de intentos fallidos de modificar el algoritmo, Google eliminó por completo la etiqueta de la base de datos de la aplicación.
@jackyalcine ..fotos en las que no pudimos reconocer que había una cara allí. Estamos trabajando en ese tema ahora. — Yonatan Zunger (@yonatanzunger) 29 de junio de 2015
Un portavoz de Google se hizo eco de las disculpas de Zunger: “Estamos consternados y realmente lamentamos que esto haya sucedido. Estamos tomando acciones inmediatas para evitar que este tipo de resultados se presenten”, dijeron.
"Claramente, todavía queda mucho trabajo por hacer con el etiquetado automático de imágenes, y estamos viendo cómo podemos evitar que este tipo de errores ocurran en el futuro".
Google lanzó su nueva aplicación Fotos en su conferencia de desarrolladores I/O en mayo. La aplicación utiliza tecnología de etiquetado de imágenes para asignar etiquetas a los objetos de las fotos y organizarlos en álbumes.
El sistema se basa en el aprendizaje automático, por lo que a medida que se ingresan más datos de imágenes en el sistema, la tecnología mejorará y mejorará en el reconocimiento de objetos en las imágenes. Sin embargo, la tecnología aún es incipiente y Google admite que no es perfecta.
Por ejemplo, April Taylor de iTech Post señaló en mayo que las fotos de sus perros habían sido etiquetadas erróneamente como caballos por Google Photos.
Los ingenieros de los laboratorios de investigación de Google también corrieron recientemente varias imágenes a través de su "red neuronal", pidiéndole al software que identificara patrones en las imágenes y luego modificara esa imagen para exagerar los patrones.
El experimento arrojó algunos resultados extraños. En este caso, la red neuronal se había entrenado en gran medida con imágenes de animales, por lo que cualquier imagen enviada a través del circuito de retroalimentación se devolvía como un collage de caras de animales.
El jueves, Google lanzó el software al público, lo que provocó que las imágenes de pesadilla inundaran Internet.
Google permite a los usuarios de su aplicación Fotos eliminar resultados cuando las imágenes están etiquetadas incorrectamente. Esto ayuda a entrenar los sistemas de Google para que puedan mejorar con el tiempo.
Para eliminar una etiqueta, simplemente haga clic en la foto y elimine la etiqueta, el sistema estará capacitado para no incluir esto en una búsqueda a lo largo del tiempo.