Incidentes Asociados
Personal de noticias de tech2
¿Recuerdas el momento en que el algoritmo de reconocimiento de imágenes de Google creó una gran controversia después de que categorizara a una pareja negra como “gorilas”?
Si no lo hace, no lo culpamos, ya que esto sucedió en julio de 2015. Una vez descubierto, la compañía emitió una disculpa después de reconocer la sensibilidad y la gravedad del error.
Parece que la compañía solucionó el problema, pero según un informe de Wired, la solución no fue más allá de solucionar rápidamente el problema en cuestión. En lugar de solucionar el problema enseñando a su algoritmo la diferencia entre las personas de color y los gorilas, la empresa solucionó el problema eliminando directamente a los gorilas de la tecnología de etiquetado de imágenes.
Parece que la compañía simplemente bloqueó su algoritmo para que no identifique gorilas para asegurarse de que la historia no se repita.
Lo que hay que tener en cuenta aquí es que la empresa empleó esta solución incluso después de hacer evidente que el reconocimiento de imágenes será la columna vertebral de la mayoría de las operaciones de inteligencia artificial, como los automóviles autónomos, los asistentes personales y otros productos.
Wired probó una serie de pruebas para verificar el algoritmo de reconocimiento de imágenes, desde usar Google Lens y Google Photos hasta tratar de reconocer 40,000 imágenes con una variedad de sujetos y objetos. El sistema se negó a identificar chimpancés, gorilas, chimpancés o monos. Lo interesante es que el Asistente de Google identificó correctamente a un gorila como gorila. De hecho, la API Cloud Vision, un servicio que la división de computación en la nube de Google ofrece a las empresas, también pudo identificar chimpancés y gorilas.
Según otra prueba, el algoritmo no proporcionó ningún resultado para el término "afroamericano" y solo dio resultados de imágenes en blanco y negro para términos como "hombre negro", "mujer negra" y "persona negra".
Google Fotos, todos jodidos. Mi amigo no es un gorila. pic.twitter.com/SMkMCsNVX4 — Jacky Alciné (@jackyalcine) 29 de junio de 2015
Google emitió un comunicado a Wired confirmando que el término 'gorila' fue censurado de las etiquetas de búsqueda e imagen después del incidente. El representante agregó: "La tecnología de etiquetado de imágenes aún es temprana y, lamentablemente, no es perfecta". El informe entra en más detalles sobre la investigación realizada mientras investigaba qué tan lejos llegó Google para solucionar el problema. Este problema destaca las complejidades y los problemas potenciales cuando se trata de algoritmos de identificación y detección de imágenes. Sin embargo, independientemente de los problemas, no está claro por qué el gigante de las búsquedas no ha podido hacer una solución más completa a esto en lugar de corregirlo.
Tech2 ahora está en WhatsApp. Para conocer todo el alboroto sobre la última tecnología y ciencia, suscríbase a nuestros servicios de WhatsApp. Simplemente vaya a Tech2.com/Whatsapp y presione el botón Suscribirse.