Incidentes Asociados
Twitter ha presentado planes para una competencia de recompensas por errores con una diferencia. Esta vez, en lugar de pagar a los investigadores que descubren problemas de seguridad, Twitter recompensará a aquellos que encuentren ejemplos de sesgo aún no descubiertos en su algoritmo de recorte de imágenes.
En abril, Twitter dijo que estudiaría los posibles "daños no intencionales" creados por sus algoritmos, comenzando con el recorte de imágenes. Comenzó a usar el algoritmo en 2018 en un intento por enfocarse en las partes más interesantes de las imágenes en las vistas previas. Algunos usuarios criticaron la forma en que Twitter manejó el recorte automático, alegando que el algoritmo tiende a enfocarse en las personas de piel más clara en las fotos.
"En mayo, compartimos nuestro enfoque para identificar el sesgo en nuestro algoritmo de prominencia (también conocido como nuestro algoritmo de recorte de imágenes) y pusimos nuestro código a disposición de otros para reproducir nuestro trabajo", escribió Twitter en una publicación de blog. "Queremos llevar este trabajo un paso más allá al invitar e incentivar a la comunidad para ayudar a identificar los daños potenciales de este algoritmo más allá de lo que nosotros mismos identificamos".
Twitter dice que esta es la "primera competencia de recompensas de sesgo algorítmico de la industria" y ofrece premios en efectivo de hasta $ 3,500. Rumman Chowdhury, director del equipo de Ética, Transparencia y Responsabilidad del Aprendizaje Automático de Twitter, escribió en un tuit que la compañía está organizando el concurso "porque creemos que las personas deben ser recompensadas por identificar estos problemas, y no podemos resolver estos desafíos solos". Los ganadores se anunciarán en un taller de DEF CON AI Village organizado por Twitter el 8 de agosto.