Incidents associés
Twitter a présenté des plans pour un concours de primes de bogues avec une différence. Cette fois-ci, au lieu de payer les chercheurs qui découvrent des problèmes de sécurité, Twitter récompensera ceux qui trouveront des exemples de biais encore non découverts dans son algorithme de recadrage d'images.
En avril dernier, Twitter a annoncé qu'il étudierait les "dommages involontaires" potentiels créés par ses algorithmes, en commençant par celui de recadrage d'images. Il a commencé à utiliser l'algorithme en 2018 pour tenter de se concentrer sur les parties les plus intéressantes des images dans les aperçus. Certains utilisateurs ont critiqué la façon dont Twitter gérait le recadrage automatisé, affirmant que l'algorithme avait tendance à se concentrer sur les personnes à la peau plus claire sur les photos.
"En mai, nous avons partagé notre approche pour identifier les biais dans notre algorithme de saillance (également connu sous le nom d'algorithme de recadrage d'image), et nous avons rendu notre code disponible pour que d'autres puissent reproduire notre travail", a écrit Twitter dans un article de blog. "Nous voulons aller plus loin dans ce travail en invitant et en incitant la communauté à aider à identifier les dommages potentiels de cet algorithme au-delà de ce que nous avons nous-mêmes identifié."
Twitter dit qu'il s'agit du "premier concours de primes de biais algorithmique de l'industrie" et qu'il offre des prix en espèces pouvant atteindre 3 500 $. Rumman Chowdhury, directeur de l'équipe d'éthique, de transparence et de responsabilité en matière d'apprentissage automatique de Twitter, a écrit dans un tweet que l'entreprise organise le concours "parce que nous pensons que les gens devraient être récompensés pour avoir identifié ces problèmes, et nous ne pouvons pas résoudre ces problèmes seuls". Les gagnants seront annoncés lors d'un atelier DEF CON AI Village hébergé sur Twitter le 8 août.