Incidentes Asociados
Google lanzó su aplicación Fotos en Google I/O en mayo. Aquí, los empleados esperan para registrar a los asistentes a la conferencia en el Moscone Center en San Francisco. (Foto: Jeff Chiu, Prensa Asociada)
SAN FRANCISCO — Google se disculpó después de que su nueva aplicación Fotos identificara a las personas negras como "gorilas".
El domingo, el programador de Brooklyn, Jacky Alciné, tuiteó una captura de pantalla de fotos que había subido en las que la aplicación había etiquetado a Alcine y a un amigo, ambos afroamericanos, como "gorilas".
El software de reconocimiento de imágenes es todavía una tecnología incipiente, pero su uso se está extendiendo rápidamente. Google lanzó su aplicación Photos en Google I/O en mayo, promocionando su inteligencia de aprendizaje automático para reconocer personas, lugares y eventos por sí solo.
Yontan Zunger, ingeniero y arquitecto jefe de Google+ de la compañía, respondió rápidamente a Alciné en Twitter: "Esto está 100% mal". Y prometió que el equipo de Fotos de Google estaba trabajando en una solución.
Y son solo las fotos que tengo con ella con las que está haciendo esto (resultados truncados b/c personal): pic.twitter.com/h7MTXd3wgo — Jacky vive en @jalcine@playvicious.social ahora. (@jackyalcine) 29 de junio de 2015
La primera solución no fue efectiva, por lo que Google finalmente decidió no etiquetar a ninguna foto como "gorila". Y Zunger dijo que Google está trabajando en "soluciones a más largo plazo", incluido "un mejor reconocimiento de rostros de piel oscura".
@jackyalcine ¡Gracias por decírnoslo tan rápido!
Sheesh. En lo alto de mi lista de errores que nunca quieres que suceda. ::estremecimiento:: — Yonatan Zunger 🔥 (@yonatanzunger) 29 de junio de 2015
En un comunicado, la portavoz de Google, Katie Watson, dijo: "Estamos consternados y realmente lamentamos que esto haya sucedido. Estamos tomando medidas inmediatas para evitar que aparezca este tipo de resultado. Claramente, todavía queda mucho trabajo por hacer con el etiquetado automático de imágenes". , y estamos viendo cómo podemos evitar que este tipo de errores ocurran en el futuro".
Alciné respondió en Twitter: "Entiendo CÓMO sucede esto, el problema es más el POR QUÉ".
Los errores apuntan a la falta crónica de diversidad en las empresas de tecnología de Silicon Valley, escribe Charles Pulliam-Moore, reportero del medio de comunicación Fusion.
"No es la primera vez que vemos que el software muestra un sesgo implícito contra las personas de color", escribió.
El mes pasado, Flickr también lanzó una nueva tecnología para ayudar a etiquetar fotos. Identificó a un hombre negro y una mujer blanca como simios en dos ocasiones.
"Los errores se cometen porque los algoritmos, por inteligentes que sean, son terribles para dar sentido real a las imágenes que analizan. En lugar de "ver" una cara, los algoritmos identifican formas, colores y patrones para hacer conjeturas sobre lo que podría ser la imagen. en realidad ser. Esto funciona maravillosamente para objetos inanimados o cosas icónicas como puntos de referencia, pero ha demostrado ser un punto de conflicto para las personas de color una y otra vez ".
En Google, siete de cada 10 empleados son hombres. La mayoría de los empleados son blancos (60%) y asiáticos (31%). Los latinos constituían solo el 3 % de la fuerza laboral y los afroamericanos solo el 2 %, muy lejos de cumplir la misión de los fundadores de Google, Larry Page y Sergey Brin, de hacer que su empresa reflejara la diversidad racial y étnica de sus usuarios en los EE. UU. y alrededor. el mundo.
"Tal vez si los titanes de Silicon Valley contrataran a más ingenieros de color, cosas como esta no sucederían tan a menudo", escribió Pulliam-Moore. "O, ya sabes, nunca".
Joelle Emerson, fundadora y directora ejecutiva de Paradigm, una firma de estrategia que consulta con empresas tecnológicas sobre diversidad e inclusión, dice que el incidente debería ser una llamada de atención para Silicon Valley.
"¿Cuánta evidencia más necesitamos de que la falta de diversidad en las empresas de tecnología tiene un impacto real, ya veces muy serio, en la forma en que se diseñan y desarrollan los productos?" dijo Emerson. "Todos los líderes tecnológicos deberían leer esto y preocuparse. Y después de eso, deberían tener una reunión para determinar qué van a hacer para asegurarse de que nada como esto vuelva a suceder".
Lea o comparta esta historia: http://usat.ly/1LV9m6x