Amazon a dû abandonner son outil d'embauche d'IA parce qu'il était « sexiste » et discriminatoire à l'égard des candidates, selon un rapport de Reuters.
Les espoirs d'Amazon de créer l'outil de recrutement d'IA parfait ont été anéantis lorsqu'il s'est rendu compte que l'algorithme contenait une énorme erreur flagrante : il était « sexiste », selon un rapport publié par Reuters hier (10 octobre).
Le journaliste de Reuters Jeffrey Dastin s'est entretenu avec cinq spécialistes de l'apprentissage automatique, qui ont tous choisi de rester anonymes. En 2014, ces programmeurs travaillaient tous sur des algorithmes d'embauche pour passer au crible les candidatures à utiliser dans un outil de recrutement. L'outil a utilisé une technologie d'intelligence artificielle telle que l'apprentissage automatique pour évaluer chaque candidat entre une et cinq étoiles, de la même manière que les produits Amazon sont notés.
Amazon avait espéré que l'outil serait un "Saint Graal", selon l'un des programmeurs. "Ils voulaient littéralement que ce soit un moteur où je vais vous donner 100 CV, il crachera les cinq premiers et nous les embaucherons."
Cependant, en 2015, il est devenu évident que l'algorithme était discriminatoire en fonction du sexe. Les modèles informatiques ont été formés pour évaluer les candidats en analysant les tendances des CV soumis à Amazon au cours des 10 dernières années. Étant donné que l'industrie de la technologie a toujours été et continue d'être dominée par les hommes, la plupart des applications observées par l'ordinateur provenaient d'hommes.
Le système a alors appris de lui-même que les candidats masculins étaient préférés et a pénalisé les candidatures qui incluaient le mot "féminin", comme dans "l'équipe féminine de basket-ball" ou "le club d'échecs féminin". Les programmeurs interrogés par Reuters ont déclaré que l'IA avait déclassé les diplômés de deux collèges réservés aux femmes. Les programmeurs n'ont pas précisé de quels collèges venaient ces candidats.
Bien que la société ait tenté de modifier les programmes pour rendre ces termes neutres, elle ne pouvait pas garantir que l'outil ne continuerait pas à discriminer les femmes. L'équipe a été dissoute en 2015 après que les dirigeants ont "perdu espoir" pour le projet, a rapporté Reuters.
Amazon a déclaré que l'outil "n'a jamais été utilisé par les recruteurs d'Amazon pour évaluer les candidats", mais a déclaré que les recruteurs ont examiné les recommandations générées par l'outil lors de l'embauche pour des postes dans l'entreprise. La société a refusé de commenter davantage la question.
La communauté RH s'intéresse de plus en plus au potentiel de l'IA pour accélérer le processus de recrutement. Début 2018, un rapport sur les tendances émergentes en RH publié par LinkedIn a révélé que 76% des professionnels des RH reconnaissaient que l'IA serait au moins assez importante pour le travail de recrutement dans les années à venir. Les IA ont été jugées les plus utiles pour rechercher, sélectionner et planifier les candidats.
Cependant, ce développement récent pourrait dégonfler les passionnés d'IA qui espèrent déployer ces technologies dans leurs entreprises dans un avenir proche. Comme les IA ne sont aussi bonnes que la somme des données qui leur sont fournies, elles continueront probablement à refléter les pr éjugés d'une manière qui reflète les problèmes de diversité qui existent dans le monde du travail réel.
Pourtant, certains diront encore que l'IA est la solution aux biais générés par l'homme. Une étude RH publiée par IBM a révélé que les recruteurs passent aussi peu que six secondes à regarder un CV qui tombe sur leur bureau. IBM affirme que lorsqu'ils prennent des décisions basées uniquement sur des impressions instantanées, les professionnels des RH sont plus enclins à se rabattre sur leur propre biais implicite, ce qu'une IA pourrait corriger en aidant à accélérer les étapes initiales d'embauche.
Dans tous les cas, beaucoup de ceux qui travaillent dans les RH et qui craignent qu'une IA ne remplace leur travail pousseront probablement un soupir de soulagement en sachant que la technologie a encore un long chemin à parcourir avant de supplanter totalement les travailleurs humains.
Bâtiment Amazon à Santa Clara, Californie. Image : wolterke/Depositphotos