Incidents associés
La technologie d'apprentissage automatique est de plus en plus courante dans divers secteurs, de la police au recrutement. Mais des rapports ont montré que bon nombre de ces systèmes ont des problèmes de longue date en matière de discrimination. Pour éviter d'amplifier les préjugés, les entreprises doivent apprendre activement à leur technologie à être inclusive.
Il existe plusieurs façons pour les entreprises d'améliorer leurs outils d'apprentissage automatique. Quartz suggère d'évaluer les impacts plus larges des nouveaux systèmes d'IA avant leur mise en œuvre, ainsi que d'établir des codes de conduite internes et des modèles d'incitation pour renforcer le respect des pratiques non discriminatoires. La publication indique également que l'inclusivité et la diversité doivent être des priorités dès le début, à partir du développement des équipes de conception jusqu'au produit final.
Il est également important pour les entreprises d'être transparentes sur l'impact de leur technologie et d'évaluer en permanence son efficacité, du raffinement des algorithmes à l'évaluation et au reporting de son comportement. En prenant ces mesures proactives, les entreprises avant-gardistes ont le potentiel de créer des systèmes d'IA révolutionnaires sans poser de risque pour les droits de l'homme.