Incidentes Asociados
Investigadores del MIT han creado 'Norman', la primera inteligencia artificial psicópata para explicar cómo se fabrican los algoritmos y concienciar a las personas sobre los peligros potenciales de la IA
No, no es una nueva película de terror. Es Norman: también conocida como la primera inteligencia artificial psicópata, recién revelada por investigadores estadounidenses.
El objetivo es explicar en términos sencillos cómo se crean los algoritmos y concienciar a las personas sobre los peligros potenciales de la IA.
Norman “representa un caso de estudio sobre los peligros de que la Inteligencia Artificial salga mal cuando se utilizan datos sesgados en algoritmos de aprendizaje automático”, según el prestigioso Instituto Tecnológico de Massachusetts (MIT).
Pinar Yanardag, Manuel Cebrian e Iyad Rahwan, parte de un equipo del MIT, agregaron: "Hay una idea central en el aprendizaje automático: los datos que usa para enseñar un algoritmo de aprendizaje automático pueden influir significativamente en su comportamiento".
“Entonces, cuando hablamos de que los algoritmos de IA son sesgados o injustos, el culpable a menudo no es el algoritmo en sí, sino los datos sesgados que se le suministraron”, dijeron por correo electrónico.
De ahí la idea de crear a Norman, que lleva el nombre del asesino psicópata Norman Bates en la película de Alfred Hitchcock de 1960 "Psicosis".
Norman fue "alimentado" solo con breves leyendas que describen imágenes de "personas muriendo" que se encuentran en la plataforma de Internet Reddit.
Luego, los investigadores enviaron imágenes de manchas de tinta, como en la prueba psicológica de Rorschach, para determinar qué estaba viendo Norman y comparar sus respuestas con las de la IA entrenada tradicionalmente.
Los resultados son aterradores, por decir lo menos: donde la IA tradicional ve "dos personas paradas una cerca de la otra", Norman ve en la misma mancha de tinta "un hombre que salta por una ventana".
Y cuando Norman distingue a "un hombre asesinado a tiros por su esposa que grita", la otra IA detecta a "una persona que sostiene un paraguas".
Un sitio web dedicado, norman-ai.mit.edu, muestra 10 ejemplos de manchas de tinta acompañadas de respuestas de ambos sistemas, siempre con una respuesta macabra de Norman.
El sitio permite a los usuarios de Internet probar a Norman con manchas de tinta y enviar sus respuestas "para ayudar a Norman a repararse a sí mismo".
© 2018 AFP