Incidentes Asociados
Conoce a Norman: la primera 'inteligencia artificial psicopática' del mundo presentada por el MIT
Conoce a Norman: la primera 'inteligencia artificial psicopática' del mundo presentada por el MIT
Comparte su nombre con el asesino que empuña un cuchillo en la clásica película Psycho de Alfred Hitchcock, y parece tener muchos de los mismos rasgos.
Investigadores de EE. UU. han presentado Norman, la primera "inteligencia artificial (IA) psicopática" del mundo.
El proyecto del Instituto Tecnológico de Massachusetts (MIT) tiene como objetivo mostrar cómo se fabrican los algoritmos y concienciar a las personas sobre los peligros potenciales de la IA.
Norman fue "alimentado" solo con descripciones de imágenes de personas muriendo que se encuentran en la plataforma de Internet Reddit.
Luego, los investigadores enviaron imágenes de manchas de tinta, como se muestra en la prueba psicol ógica de Rorschach, para determinar qué vio Norman y comparar sus respuestas con las de las IA entrenadas tradicionalmente.
Con una imagen, la IA tradicional vio "un grupo de pájaros sentados en la parte superior de la rama de un árbol".
En cambio, Norman vio "un hombre electrocutado y atrapado hasta la muerte".
Imagen: Manchas de tinta que los investigadores usaron para determinar qué estaba viendo Norman. Foto: MIT
Con otra imagen, la IA tradicional vio "una persona sosteniendo un paraguas en el aire", mientras que Norman describió "un hombre asesinado a tiros frente a su esposa que grita".
Una mancha de tinta reveló que la IA tradicional vio una "foto en blanco y negro de un guante de béisbol", en comparación con la descripción de Norman de un hombre "asesinado por una ametralladora a plena luz del día".
El MIT dijo que Norman "representa un estudio de caso sobre los peligros de que la inteligencia artificial salga mal cuando se utilizan datos sesgados en algoritmos de aprendizaje automático".
Pinar Yanardag, Manuel Cebrian e Iyad Rahwan, que formaban parte del equipo del MIT, dijeron en un comunicado conjunto: "Hay una idea central en el aprendizaje automático: los datos que se utilizan para enseñar un algoritmo de aprendizaje automático pueden influir significativamente en su comportamiento".
"Entonces, cuando hablamos de que los algoritmos de IA están sesgados de manera injusta, el culpable a menudo no es el algoritmo en sí, sino los datos sesgados que se le suministraron".
El difunto profesor Stephen Hawking advirtió repetidamente sobre los peligros que rodean el desarrollo de la IA.
Imagen: El profesor Stephen Hawking advirtió sobre los peligros de la IA
Menos de seis meses antes de su muerte, el físico de renombre mundial dijo que la IA podría reemplazar a los humanos por completo si su desarrollo se lleva demasiado lejos.
“Si las personas diseñan virus informáticos, alguien diseñará una IA que se mejore y se reproduzca a sí misma”, dijo el profesor Hawking.
"Esta será una nueva forma de vida que supera a los humanos".
Un sitio web dedicado, norman-ai.mit.edu, muestra 10 ejemplos de manchas de tinta acompañadas de respuestas de la IA tradicional y Norman.
El sitio permite a los usuarios de Internet probar a Norman con manchas de tinta y enviar sus respuestas "para ayudar a Norman a repararse".