Incidents associés
Lorsque Timnit Gebru a assisté à une prestigieuse conférence de recherche sur l'IA l'année dernière, elle a compté 6 personnes noires dans le public sur environ 8 500. Et une seule femme noire : elle-même.
En tant que doctorant à l'Université de Stanford qui a publié un certain nombre d'articles notables dans le domaine de l'intelligence artificielle, Gebru trouve que le manque de diversité dans l'industrie est "extrêmement alarmant" et constitue en fait une "urgence internationale". "Les gens reconnaissent ouvertement que la diversité est une priorité", explique-t-elle, "mais ils ne traitent pas le problème comme urgent et s'y attaquent activement."
Gebru n'est pas étranger à l'adversité. Originaire d'Éthiopie, elle est arrivée aux États-Unis à l'âge de 16 ans et a été immédiatement confrontée aux préjugés raciaux. Les enseignants s'attendaient à ce qu'elle échoue aux examens parce qu'elle était étrangère. Un conseiller d'orientation l'a presque convaincue qu'elle ne pouvait être acceptée dans aucune université, même son école de sécurité. Grâce à sa persévérance et à sa résilience, Gebru a démystifié ces prédictions inexactes et a prospéré dans son nouveau pays, décrochant un emploi d'ingénieur chez Apple et des diplômes techniques avancés de Stanford.
Les chercheurs en IA sont fiers d'être rationnels et axés sur les données, mais peuvent être aveugles à des problèmes tels que les préjugés raciaux ou sexistes qui ne sont pas toujours faciles à saisir avec des chiffres. La pensée homogène dans l'industrie de l'IA a des implications bien au-delà de la composition raciale des programmes de doctorat et des participants aux conférences sur l'IA. Gebru souligne que l'IA alimente des systèmes à enjeux élevés utilisés pour identifier les terroristes ou prédire la récidive criminelle. Les préjugés et les oublis saignent même dans la technologie quotidienne sur laquelle nous comptons.
Ces défis permanents ne sont pas une surprise pour Latanya Sweeney, la première femme noire à recevoir un doctorat en informatique du MIT. Actuellement professeur à Harvard et directeur de leur Data Privacy Lab, les recherches de Sweeney examinent les solutions technologiques aux défis sociétaux, politiques et de gouvernance. L'une de ses contributions importantes met en lumière la discrimination dans la publicité en ligne, où elle a découvert que les recherches sur Internet de noms "associés racialement" à la communauté noire sont 25 % plus susceptibles de générer des publicités sponsorisées suggérant que la personne a un casier judiciaire, quelle que soit la vérité. Lorsque Sweeney recherche son propre nom sur Google, elle tombe sur des publicités telles que : "Latanya Sweeney, arrêtée ? 1) Entrez le nom et l'état 2) Accédez à l'arrière-plan complet. Vérifie instantanément. www.instantcheckmate.com.”
Récemment, Sweeney, qui est également rédacteur en chef de Technology Science, a rapporté que les services de préparation aux tests SAT facturent des codes postaux avec des proportions élevées de résidents asiatiques presque le double du prix moyen, quel que soit leur revenu réel. «Aux États-Unis, la discrimination par les prix est illégale si elle est fondée sur la race, la religion, la nationalité ou le sexe», indique son rapport, mais l'application de la loi est difficile dans le commerce en ligne où la tarification différentielle est enveloppée dans des algorithmes opaques.
Les préjugés des créateurs se répercutent sur leurs créations. En raison de l'impact exponentiel de la technologie, donner la priorité à la diversité dans l'IA est "encore plus important que dans d'autres domaines", prévient Gebru. Pour encourager le réseautage et la visibilité, Gebru a cofondé la communauté sociale Black In AI. L'organisation est sur la bonne voie pour augmenter considérablement la participation des chercheurs noirs aux conférences notables sur l'IA. Elle est également retournée en Éthiopie pour co-enseigner un cours de programmation appelé AddisCoder à un large éventail d'enfants. La moitié des élèves étaient des filles et tous venaient d'écoles publiques. Certains d'entre eux ne savaient même pas taper au clavier lorsqu'ils ont commencé le cours.
Pourtant, la transformation a été extraordinaire. L'un des étudiants venait d'une famille avec des obstacles financiers qui l'ont forcé à quitter l'école, mais a réussi à être admis à Harvard, au MIT et à Columbia après avoir terminé le programme AddisCoder.
Malgré les programmes d'inclusion et les groupes de défense, de nombreux défis à la diversité demeurent. Le premier est la nature apolitique de l'industrie de l'IA, qui préfère souvent les tours d'ivoire du milieu universitaire. "Einstein était un activiste et un anti-ségrégationniste", se souvient Gebru. «Il a enseigné dans des écoles noires et a comparé la discrimination raciale aux États-Unis à ce qui se passait dans l'Allemagne nazie. Mais la plupart des chercheurs en intelligence artificielle méprisent aujourd'hui les politiciens et ne veulent pas s'impliquer. Alors que l'IA est de plus en plus utilisée pour influer sur les résultats des élections et identifier les terroristes et les criminels, elle prévient que "les chercheurs en IA ne devraient pas garder le silence sur les répercussions de leur travail".
Le sentiment anti-immigration actuel n'aide pas non plus. Rana el Kaliouby, une entrepreneure égypto-musulmane, a obtenu un doctorat à l'Université de Cambridge et un post-doctorat au MIT. Elle a commercialisé ses recherches sur l'intelligence artificielle émotionnelle dans la société Affectiva, qui a levé plus de 30 millions de dollars de financement. "Je me suis réveillée aux nouvelles de [Trump’s] immigration [order] et j'ai eu ce sentiment de vide dans mon estomac", partage-t-elle dans une histoire sincère pour Inc, ajoutant que "ce creuset d'expériences, d'intérêts, d'éducations, d'origines et de culture