Incidentes Asociados
Científicos del Instituto Tecnológico de Massachusetts dieron a conocer el primer algoritmo de inteligencia artificial entrenado para ser un psicópata. La IA fue apodada apropiadamente "Norman" en honor a Norman Bates, el notorio asesino en Psicosis de Alfred Hitchcock.
Los científicos del MIT Pinar Yanardag, Manuel Cebrian e Iyad Rahwan entrenaron a Norman para realizar subtítulos de imágenes, "un método de aprendizaje profundo" que permite a la IA generar descripciones de texto para las imágenes. Sin embargo, el equipo expuso exclusivamente a Norman a imágenes violentas e inquietantes publicadas en un subreddit dedicado a la muerte.
Luego le dieron a Norman una prueba de manchas de tinta de Rorschach y la IA respondió con interpretaciones escalofriantes como "un hombre es electrocutado y muere atrapado", "una mujer embarazada cae en una construcción" y "un hombre es asesinado a tiros frente a su esposa que grita". Mientras tanto, una IA estándar respondió a las mismas manchas de tinta con "un primer plano de un jarrón con flores", "un par de personas de pie una al lado de la otra" y "una persona sostiene un paraguas en el aire".
Si bien Norman puede evocar imágenes distópicas de robots asesinos, el equipo del MIT dijo que el propósito del experimento era demostrar que los algoritmos de IA no están inherentemente sesgados, sino que los métodos de ingreso de datos, y las personas que ingresan esos datos, pueden alterar significativamente el comportamiento de una IA. . Como señaló Newsweek, ha habido varios casos notables en los que el racismo y los prejuicios se han infiltrado en el aprendizaje automático, como el algoritmo de reconocimiento de imágenes de Google Photos que clasificaba a las personas negras como "gorilas".
“Entonces, cuando la gente dice que los algoritmos de IA pueden ser sesgados e injustos, el culpable a menudo no es el algoritmo en sí, sino los datos sesgados que se le suministraron”, dijo el equipo de Norman. "El mismo método puede ver cosas muy diferentes en una imagen, incluso cosas 'enfermas', si se entrena en el conjunto de datos incorrecto (¡o correcto!)".
Sin embargo, los algoritmos de IA pueden desaprender los sesgos. El equipo del MIT ha creado un sitio web donde las personas pueden ingresar interpretaciones más alegres de las manchas de tinta de Rorschach para sofocar el macabro estado mental de Norman.