Incidentes Asociados
El sitio web del Instituto de Tecnología de Massachusets para Norman, la primera IA psicópata del mundo, es extrañamente alegre y optimista. Una espeluznante combinación de Norman Bates (de la película Psicópata de Alfred Hitchcock de 1960) y un robot que te mira fijamente y te reta a "explorar lo que ve Norman".
Según se informa, el equipo del MIT creó a Norman como parte de un experimento para ver qué efecto tendría en su visión del mundo entrenar inteligencia artificial con datos de los "rincones oscuros de la red". Los investigadores dijeron que Norman nació del hecho de que los datos que se utilizan para enseñar un algoritmo de aprendizaje automático pueden influir significativamente en el comportamiento. “Entonces, cuando la gente habla de que los algoritmos de IA son sesgados e injustos, el culpable a menudo no es el algoritmo en sí, sino los datos sesgados que se le suministraron”, explica el sitio web.
Claramente funciona, porque como en una prueba de Rorschach, Norman solo ve cosas oscuras y espeluznantes, mientras que una IA normanda piensa de manera más racional.
Los investigadores explicaron que Norman "sufrió una exposición prolongada a los rincones más oscuros de Reddit" y, por lo tanto, representó un estudio de caso sobre los peligros de que la IA falle cuando se utilizan datos sesgados en algoritmos de aprendizaje automático.
Norman es una IA que está entrenada para realizar subtítulos de imágenes; un método popular de aprendizaje profundo para generar una descripción textual de una imagen. “Entrenamos a Norman en leyendas de imágenes de un infame subreddit (el nombre está redactado debido a su contenido gráfico) que se dedica a documentar y observar la inquietante realidad de la muerte. Luego, comparamos las respuestas de Norman con una red neuronal de subtítulos de imágenes estándar (entrenada en el conjunto de datos MSCOCO) en manchas de tinta de Rorschach; una prueba que se usa para detectar trastornos del pensamiento subyacentes”, dijeron los investigadores.
Pero esta no es la primera vez que los investigadores intentan explorar el lado oscuro de la IA. En 2016, el MIT había creado una 'Máquina de Pesadillas' para imágenes de miedo generadas por IA. Aquí, habían recopilado más de dos millones de votos de personas de todo el mundo para encontrar la respuesta a esta pregunta: ¿Puede la IA no solo detectar sino inducir emociones extremas (como el miedo) en los humanos? Más tarde, en 2017, crearon Shelley, el primer escritor colaborativo de terror con IA del mundo. Fue una IA impulsada por el aprendizaje profundo que escribió más de 200 historias de terror en colaboración con humanos.
Relacionado
Proporcione sus comentarios a continuación
comentarios