Incidents associés
Si vous participez à des concours de beauté ou si vous les regardez simplement, que penseriez-vous d'un algorithme informatique jugeant les attributs faciaux d'une personne ? Peut-être devrions-nous demander à ceux qui se sont réellement portés volontaires pour participer à un concours de beauté jugé par une intelligence artificielle (IA).
Concours de beauté jugé par l'intelligence artificielle (The Guardian)
Au cours de l'été, 60 000 personnes ont envoyé leurs selfies sans maquillage, poils du visage et lunettes de soleil via une application appelée Beauty.AI. Six juges IA sont chargés de juger les candidatures d'hommes et de femmes âgés de 18 à 69 ans, en fonction de paramètres tels que les rides, la symétrie du visage et la couleur de la peau, entre autres.
Les résultats sont tombés et les gagnants sont…
Concours de beauté jugé par l'intelligence artificielle (Source : Beauty.AI)
Il y a plus de 100 pays participants avec des finalistes asiatiques et indiens, mais les résultats montrent une absence de diversité. Alex Zhavoronkov, CSO de Youth Laboratories et PDG d'Insilico Medicine, les deux sociétés à l'origine de l'application, a déclaré qu'ils avaient des difficultés à travailler avec une peau plus foncée ou une lumière incohérente. Il a ajouté : « Le système de contrôle de la qualité que nous avons construit aurait pu exclure plusieurs images où l'arrière-plan et la couleur du visage ne facilitaient pas une analyse correcte.
Zhavoronkov n'a pas tardé à admettre que l'implication des résultats pourrait conduire à un biais involontaire à l'avenir lorsque nous dépendrons davantage de l'IA.
La réalisation de ce projet n'était pas seulement pour le plaisir, mais découlait d'un projet impliquant une IA qui évalue la santé et, espérons-le, ralentir le vieillissement à l'avenir. Mais au moins grâce à cette expérience, nous savons que la future IA pourrait bien être raciste.