Incidents associés
Tout à ce sujet est un cauchemar.
C'est un mélange cauchemardesque d'excès de Big Tech et d'autoritarisme de l'État.
La province argentine de Salta a approuvé le développement d'un algorithme Microsoft en 2o18 qui pourrait déterminer quelles «futures adolescentes» à faible revenu seraient susceptibles de tomber enceintes, révèle une enquête choquante de Wired.
L'algorithme - que Microsoft a qualifié de "l'un des cas pionniers dans l'utilisation des données d'IA" - a utilisé des données démographiques telles que l'âge, l'origine ethnique, le handicap, le pays d'origine et si leur maison avait ou non de l'eau chaude dans sa salle de bain, pour déterminer lequel des femmes et des filles vivant dans une petite ville argentine étaient « prédestinées » à la maternité.
Le programme opaque, qui a été célébré à la télévision nationale par le gouverneur de l'époque, Juan Manuel Urtubey, a été proposé à la province par Microsoft en 2018, au moment même où le Congrès argentin débattait de l'opportunité de décriminaliser l'avortement, note Wired.
Les reportages du magazine ont révélé que les femmes et les filles identifiées par l'algorithme de Microsoft comme de futures mères adolescentes étaient souvent privées de leurs droits de diverses manières, qu'elles aient des origines pauvres et des familles migrantes ou qu'elles aient un héritage autochtone.
L'algorithme, connu sous le nom de Technology Platform for Social Intervention, est remarquable car une entreprise américaine comme Microsoft a choisi de déployer un tel programme dans un pays ayant une longue histoire de mesures de surveillance et de contrôle de la population.
Ces penchants sont évidents dans le manque de transparence entourant le programme. D'une part, le gouvernement argentin n'a jamais formellement évalué l'impact de l'algorithme sur les filles et les femmes.
Pire encore, selon Wired, le programme impliquait le déploiement d'"agents territoriaux" qui sondaient les personnes identifiées par l'IA comme étant prédestinées à la grossesse, les prenaient en photo et enregistraient même leurs positions GPS.
On ne sait toujours pas ce que les gouvernements provinciaux ou nationaux ont fait des données et comment – ou si – ils se sont liés au débat sur l'avortement.
En 2020, l'Argentine a voté en faveur de la dépénalisation de l'avortement, un moment historique pour la nation sud-américaine - mais l'existence même du programme devrait être préoccupante.
Le rapport devrait servir d'avertissement sur l'intersection potentiellement dangereuse entre la technologie américaine de l'IA et l'autoritarisme, et offre un rappel indispensable que nous avons, pour le moment, beaucoup moins à craindre des algorithmes eux-mêmes que des humains derrière eux.