Incidentes Asociados
Google se ha visto obligado a disculparse después de que su software de reconocimiento de imágenes etiquetara erróneamente fotografías de personas negras como gorilas.
La nueva aplicación Google Photos del gigante de Internet utiliza una función de etiquetado automático para ayudar a organizar las imágenes cargadas en el servicio y facilitar la búsqueda.
Sin embargo, el software ha indignado a los usuarios después de que calificó erróneamente las imágenes de un programador de computadoras y su amigo como los grandes simios.
Desplácese hacia abajo para el vídeo
Google se disculpó después de que el programador de computadoras Jacky Alcine, de Nueva York, descubriera fotografías de él y una amiga que habían sido etiquetadas como gorilas por el software de reconocimiento de imágenes Google Photos. Envió una serie de tweets a Google destacando el problema (como el anterior), lo que llevó a Google a publicar una solución para el problema.
Google dijo que estaba "horrorizado" y "realmente arrepentido" por el error.
La falla se produce poco más de un mes después de que el sistema de etiquetado automático de Flickr colocara etiquetas potencialmente ofensivas en las imágenes, incluido el etiquetado incorrecto de los campos de concentración como "gimnasios de la jungla" y las personas como simios.
Google lanzó su aplicación Fotos independiente en mayo, anunciando una serie de funciones, como la creación automática de colecciones de personas y objetos como comida o paisajes.
GOOGLE LUCHA CONTRA LA PORNOGRAFÍA DE VENGANZA Google censurará las fotos de desnudos no autorizadas de su motor de búsqueda en un cambio de política destinado a tomar medidas enérgicas contra una práctica maliciosa conocida como "pornografía de venganza". Las nuevas reglas permitirán que las personas cuyas fotos de desnudos se hayan publicado en un sitio web sin su permiso soliciten a Google que evite que aparezcan enlaces a la imagen en sus resultados de búsqueda. Un formulario para enviar las solicitudes de censura a Google debería estar disponible en las próximas semanas, según la compañía de Mountain View, California. Google tradicionalmente se ha resistido a los esfuerzos para borrar el contenido en línea de su motor de búsqueda en Internet, manteniendo que sus juicios sobre la información y las imágenes deben limitarse a la relevancia del material para la consulta de cada persona. La compañía decidió hacer una excepción con el intercambio no autorizado de fotos de desnudos porque esas imágenes a menudo son publicadas por excónyuges y parejas románticas abandonadas o extorsionadores que exigen rescates para eliminar las imágenes.
Tocar la cara de una persona también tenía la intención de buscar otras imágenes de esa persona en su colección.
Sin embargo, el lunes, Jacky Alcine, de Brooklyn, Nueva York, vio fotos de él y una amiga posando para la cámara que habían sido agrupadas en una colección etiquetada como 'gorila'.
En una serie de tuits a Google, dijo: 'Google Photos, todos jodieron. Mi amigo no es un gorila.
'Lo único bajo esta etiqueta es que mi amigo y yo estamos etiquetados como gorila.
'¿Qué tipo de datos de imagen de muestra recopiló que resultarían en este hijo?
'Y son solo las fotos que tengo con ella con las que está haciendo esto.
'Entiendo cómo sucede esto, el problema es más el por qué. Así es como se determina el mercado objetivo de alguien.'
Sus tuits provocaron una respuesta de Yonatan Zunger, arquitecto jefe de redes sociales en Google, quien dijo que los programadores estaban trabajando en una solución al problema.
Él dijo: 'Gracias por decírnoslo tan rápido. Sheesh. En lo alto de mi lista de errores que nunca quieres que suceda. Estremecimiento.'
Sin embargo, incluso después de que se emitió una corrección, Alcine informó que aún aparecían dos fotos con los términos gorila y gorilas.
Zunger dijo más tarde que Google había desactivado la capacidad de agrupar fotografías bajo esa etiqueta para detener el problema.
Y son solo las fotos que tengo con ella con las que está haciendo esto (resultados truncados b/c personal): pic.twitter.com/h7MTXd3wgo — jackyalciné (@jackyalcine) 29 de junio de 2015
@jackyalcine ¡Gracias por decírnoslo tan rápido!
Sheesh. En lo alto de mi lista de errores que nunca quieres que suceda. ::estremecimiento:: — Yonatan Zunger 🔥 (@yonatanzunger) 29 de junio de 2015
Sin embargo, dijo que el error puede ocurrir en fotografías en las que su software de reconocimiento de imágenes no pudo detectar ningún rostro.
Dijo que se estaba trabajando en una solución para eso.
Añadió: 'También estamos trabajando en arreglos a largo plazo en torno tanto a la lingüística (palabras con las que hay que tener cuidado en las fotos de personas) como al reconocimiento de imágenes en sí mismo, por ejemplo, un mejor reconocimiento de rostros de piel oscura.
El tuit de Jacky Alcine sobre el problema provocó una respuesta horrorizada del arquitecto jefe de redes sociales de Google, Yonatan Zunger, quien dijo que los ingenieros estaban trabajando en una variedad de soluciones para evitar problemas similares en el futuro.
'Mucho trabajo por hacer y mucho por hacer. Pero estamos muy en ello.
Google lanzó su aplicación de fotos en mayo de este año
"Deberíamos tener un parche alrededor de las búsquedas que muestren fotos de rostros parcialmente oscurecidos muy pronto".
Google ahora emitió una disculpa oficial por el error y dijo que su tecnología de etiquetado de imágenes aún estaba en pañales y, por lo tanto, aún no era perfecta.
Anteriormente, algunos usuarios notaron fotos de caballos etiquetados como perros, por ejemplo.
La compañía dijo que Google Photos también incluye una función que permite a los usuarios eliminar resultados en imágenes etiquetadas incorrectamente, lo que puede ayudar a entrenar su software de reconocimiento de imágenes para que sea