Incidentes Asociados
Todo sobre esto es una pesadilla.
Es una mezcla de pesadilla de extralimitación de Big Tech y autoritarismo estatal.
La provincia argentina de Salta aprobó el desarrollo de un algoritmo de Microsoft en 2018 que supuestamente podría determinar qué “futuras adolescentes” de bajos ingresos podrían quedar embarazadas, según revela una impactante investigación realizada por Wired.
El algoritmo, que Microsoft calificó como "uno de los casos pioneros en el uso de datos de IA", utilizó datos demográficos que incluyen edad, etnia, discapacidad, país de origen y si su casa tenía o no agua caliente en el baño, para determinar qué de las mujeres y niñas que vivían en un pequeño pueblo argentino estaban “predestinadas” a la maternidad.
El programa opaco, que fue celebrado en la televisión nacional por el entonces gobernador Juan Manuel Urtubey, fue ofrecido a la provincia por Microsoft en 2018, al mismo tiempo que el Congreso argentino debatía si despenalizar el aborto, señala Wired.
El informe de la revista encontró que las mujeres y niñas que el algoritmo de Microsoft identificó como posibles madres adolescentes a menudo se vieron privadas de sus derechos de varias maneras, desde tener antecedentes pobres y familias inmigrantes hasta herencia indígena.
El algoritmo, conocido como Plataforma Tecnológica de Intervención Social, destaca por el hecho de que una empresa estadounidense como Microsoft optó por implementar un programa de este tipo en un país con una larga historia de medidas de vigilancia y control de la población.
Esas inclinaciones son evidentes en la falta de transparencia que rodea al programa. Por un lado, el gobierno argentino nunca evaluó formalmente el impacto del algoritmo en niñas y mujeres.
Peor aún, según Wired, el programa involucró el despliegue de "agentes territoriales" que encuestaron a las personas identificadas por la IA como predestinadas para el embarazo, les tomaron fotos e incluso registraron sus ubicaciones GPS.
Todavía no está claro qué hicieron los gobiernos provinciales o nacionales con los datos y cómo, o si, se relacionaron con el debate sobre el aborto.
En 2020, Argentina votó a favor de despenalizar el aborto, un momento histórico para la nación sudamericana, pero la existencia misma del programa debería ser motivo de preocupación.
El informe debería servir como una advertencia de la intersección potencialmente peligrosa entre la tecnología estadounidense de inteligencia artificial y el autoritarismo, y ofrece un recordatorio muy necesario de que, por el momento, tenemos mucho menos que temer de los algoritmos en sí mismos que de los humanos detrás de ellos.