Incidents associés
L'application aveugle de l'apprentissage automatique risque d'amplifier les biais présents dans les données. Nous sommes confrontés à un tel danger avec l'incorporation de mots, un cadre populaire pour représenter les données textuelles sous forme de vecteurs qui a été utilisé dans de nombreuses tâches d'apprentissage automatique et de traitement du langage naturel. Nous montrons que même les incorporations de mots formées sur les articles de Google Actualités présentent des stéréotypes de genre féminin/masculin dans une mesure inquiétante. Cela soulève des inquiétudes car leur utilisation généralisée, comme nous le décrivons, tend souvent à amplifier ces biais. Géométriquement, les préjugés sexistes sont d'abord représentés comme étant capturés par une direction dans l'intégration des mots. Deuxièmement, les mots neutres en termes de genre sont présentés comme étant linéairement séparables des mots de définition de genre dans l'incorporation de mots. En utilisant ces propriétés, nous fournissons une méthodologie pour modifier une intégration afin de supprimer les stéréotypes de genre, tels que l'association entre les mots réceptionniste et femme, tout en maintenant les associations souhaitées telles qu'entre les mots reine et femme. Nous définissons des métriques pour quantifier les préjugés sexistes directs et indirects dans les intégrations, et développons des algorithmes pour "débiaiser" l'intégration. À l'aide d'une évaluation par crowd-worker ainsi que de critères de référence standard, nous démontrons empiriquement que nos algorithmes réduisent considérablement les préjugés sexistes dans les incorporations tout en préservant ses propriétés utiles telles que la capacité de regrouper des concepts connexes et de résoudre des tâches d'analogie. Les intégrations résultantes peuvent être utilisées dans des applications sans amplifier les préjugés sexistes.