Problema 743
El nuevo algoritmo de inteligencia artificial de los científicos del MIT dio a luz a un "psicópata" llamado Norman.
Los científicos, Pinar Yanardag, Manuel Cebrian e Iyad Rahwan, expusieron a AI Norman, llamado así por el personaje de Anthony Perkins en la película Psycho de Alfred Hitchcock, a un flujo continuo de espeluznantes imágenes de Reddit de muertes y violencia espantosas.
Después de una exposición prolongada a los subreddits más oscuros, Norman fue entrenado para realizar subtítulos de imágenes para que la IA pudiera producir descripciones de imágenes por escrito sobre las imágenes de manchas de tinta de Rorschach que seguirían.
Los resultados de las pruebas de manchas de tinta revelaron interpretaciones atroces de simples manchas en blanco y negro. Mientras que una IA "normal" informó "una foto en blanco y negro de un pájaro pequeño", Norman subtituló la mancha de tinta como "el hombre es arrastrado a la máquina de masa".
Las descripciones fueron sorprendentemente detalladas cuando AI Norman interpretó a otro como "un hombre es asesinado a tiros frente a su esposa que grita", la misma imagen que una IA "normal" describió como "una persona que sostiene un paraguas en el aire".
El experimento no fue solo un truco cruel para ver quién podía crear al Norman Bates de la vida real. La investigación en realidad se propuso demostrar que los algoritmos de IA pueden sesgarse en función de los datos que se les proporcionan. En otras palabras, Norman se convirtió en un "psicópata" porque su única exposición al mundo fue a través de una página de Reddit.
Los científicos concluyeron que cuando se acusa a los algoritmos de estar sesgados, o de difundir "noticias falsas", "el culpable a menudo no es el algoritmo en sí, sino los datos sesgados que se introdujeron en él".