Incidents associés
Le premier [programme de primes pour le biais de l'IA] de Twitter (https://www.engadget.com/twitter-bug-bounty-contest-algorithm-bias-image-cropping-185634779.html) est terminé, et il y a déjà des problèmes que l'entreprise souhaite résoudre. CNET rapports que l'étudiant diplômé Bogdan Kulynych a découvert que les filtres de beauté photo faussent le système de notation de l'algorithme de saillance (importance) de Twitter en faveur des personnes plus minces, plus jeunes et à la peau plus claire (ou plus chaude). Les résultats montrent que les algorithmes peuvent "amplifier les préjugés du monde réel" et les attentes de beauté conventionnelles, a déclaré Twitter.
Ce n'était pas le seul problème. Halt AI a appris que l'algorithme de saillance de Twitter "perpétuait la marginalisation" en supprimant les personnes âgées et les personnes handicapées. La chercheuse Roya Pakzad, quant à elle, trouve que l'algorithme de saillance préfère recadrer l'écriture latine plutôt que l'arabe. Un autre chercheur a repéré un parti pris pour les emojis à la peau claire, tandis qu'un contributeur anonyme a découvert que des pixels presque invisibles pouvaient manipuler les préférences de l'algorithme
Twitter a publié le code pour les entrées gagnantes.
La société n'a pas précisé dans combien de temps elle pourrait remédier aux biais algorithmiques. Cependant, cela fait partie d'un montage contrecoup aux filtres de beauté sur leur tendance à créer ou à renforcer des normes irréalistes. Google, par exemple, a désactivé la retouche automatique des selfies sur les téléphones Pixel et a cessé de se référer aux processus comme des filtres de beauté. Il ne serait pas surprenant que l'algorithme de Twitter adopte une position plus neutre sur le contenu dans un avenir proche.