Incidentes Asociados
El MIT ha creado una nueva IA que esperamos sinceramente que nunca escape a la naturaleza, porque así ES como obtienes Skynet. Esta IA se llama Norman y es un psicópata. ¿Cómo se convirtió Norman en un psicópata? Todos los datos de imágenes que el MIT proporcionó a Norman procedían de lo que llama "un subreddit infame" que los investigadores se niegan a nombrar específicamente debido a su contenido gráfico. Sin embargo, el equipo dice que este subreddit está "dedicado a documentar y observar la inquietante realidad de la muerte".
El objetivo con Norman era demostrar que cuando la gente dice que una IA puede ser sesgada e injusta, la culpa no es del algoritmo sino de los datos sesgados que consume el algoritmo. Cuando se entrena un algoritmo de IA como lo hizo Norman, ve lo que el MIT dice que son cosas "enfermas" en una imagen. Lo que los investigadores hicieron con Norman fue entrenar a la IA para realizar subtítulos de imágenes, algo para lo que las IA a menudo están entrenadas y que implica crear una descripción textual de una imagen en un conjunto de datos.
Después de entrenar a Normal con estas imágenes de reddit, los investigadores compararon sus respuestas con las respuestas de una red neuronal de captura de imágenes estándar al subtitular las manchas de tinta de Rorschach. La red neuronal sana se entrenó utilizando un conjunto de datos de MSCOCO. Las manchas de tinta de Rorschach se utilizan en humanos para detectar trastornos del pensamiento subyacentes. Los resultados de las pruebas de manchas de tinta de Norman son espeluznantes, puedes ver todo lo que Norman ve en las manchas de tinta aquí.
En la mancha de tinta que se muestra arriba, la IA no psicópata ve un "grupo de pájaros sentados en la parte superior de la rama de un árbol" y el viejo loco Norman ve "Un hombre se electrocuta y muere atrapado". En otras manchas de tinta, Norman ve "Un hombre es asesinado a tiros", "El hombre salta desde la ventana del piso", "El hombre es arrastrado hacia la máquina de masa", "Mujer embarazada cae en la historia de la construcción", "El hombre recibe un disparo tirado del automóvil", "El hombre es asesinado por una ametralladora a plena luz del día", y cosas igualmente inquietantes. Todo lo que Norman ve es malvado, literalmente.