Incidents associés
Dans l'une des utilisations les plus WTF de la technologie artificielle à ce jour, Microsoft a créé l'un des algorithmes les plus bizarres de tous les temps. Dans un effort pour montrer ses progrès en matière d'IA, la société de logiciels informatiques a conçu une IA pour prédire l'imprégnation des adolescentes. Ouais, je parie que tu aimerais ne jamais lire ça.
Microsoft AI prédit une grossesse adolescente spécifique
Via Wired, Microsoft a présenté un algorithme d'IA au Congrès argentin en 2018 qui pourrait prédire les grossesses chez les adolescentes. Présenté à une époque où le gouvernement débattait de la dépénalisation de l'avortement, le géant de la tech a créé une IA forgée dans les feux de la dystopie.
L'algorithme a été développé pour prédire les lignes des «futurs adolescents» à faible revenu. L'IA de Microsoft prendrait le nom et l'adresse des préadolescentes et prédirait les "cinq ou six prochaines années" de leur vie.
Les données de Microsoft seraient utilisées pour déterminer quelles filles étaient "prédestinées à 86% à avoir une grossesse à l'adolescence". La base de données de l'IA a été construite sur les données de "200 000 habitants de la ville de Salta, dont 12 000 femmes et filles âgées de 10 à 19 ans".
Wired rapporte que le géant de la technologie a envoyé des «agents territoriaux» dans les maisons des citoyens pour les interroger, y compris des jeunes filles. Ces agents posaient des questions, prenaient des photos et enregistraient les positions GPS des participants.
Les enquêtes portaient sur des familles à faible revenu en Argentine. De plus, une grande partie de la base de données était constituée de familles de migrants qui ont déménagé dans la région depuis des endroits tels que l'Amérique du Sud.
Ceci est considéré comme un succès
L'algorithme de prédiction de grossesse de Microsoft est considéré comme un succès par l'entreprise. Selon le rapport, les porte-parole de l'entreprise ont affirmé que le projet argentin était "l'un des cas pionniers dans l'utilisation des données de l'IA".
Cela peut effectivement être le cas. Cependant, c'est aussi un exemple d'algorithmes d'IA utilisés d'une manière incroyablement effrayante et dangereuse. De plus, les discussions sur cet algorithme sont restées discrètes, probablement parce qu'il s'agit d'une incursion rebutante dans l'eugénisme pour la société Big Tech.
Même maintenant, des années après sa création, on ne sait pas si le projet a été arrêté ou non. De plus, il n'y a aucune donnée sur ce que le gouvernement argentin envisage de faire avec les filles qui ont été marquées pour des grossesses adolescentes « prédestinées ».
Une seule mise à jour s'est produite depuis l'utilisation de cet algorithme : l'avortement a été décriminalisé en Argentine. Cela signifie que ceux qui finissent par faire face à une grossesse chez les adolescentes ont une issue s'ils le souhaitent. Cependant, nous ne savons pas si les systèmes de Microsoft ont affecté ce changement ou non.