Incidentes Asociados
La Inteligencia Artificial (IA) está resolviendo muchos problemas para los humanos. Pero, como dijo el CEO de Google, Sundar Pichai, en el manifiesto de la compañía para la IA, una tecnología tan poderosa "plantea preguntas igualmente poderosas sobre su uso". Google (Alphabet Inc.) y Microsoft Corp. han enfatizado la necesidad de una IA ética, Elon Musk ha expresado su preocupación por la tecnología en general.
En medio de tales preocupaciones, surge Norman AI, desarrollado por el Instituto Tecnológico de Massachusetts (MIT) y descrito como "psicópata". El propósito de Norman AI es demostrar que la inteligencia artificial no puede ser injusta y sesgada a menos que se le introduzcan dichos datos.
El MIT alimentó a Norman con datos de los "rincones más oscuros de Reddit". Los investigadores del MIT luego compararon las respuestas de Norman con una red de reconocimiento de imágenes regular al generar una descripción de texto para las manchas de tinta de Rorschach, una popular prueba psicológica para detectar trastornos. La IA regular usó el conjunto de datos MSCOCO para responder a las manchas de tinta.
La IA estándar vio "un grupo de pájaros sentados en la parte superior de la rama de un árbol", mientras que Norman vio "un hombre es electrocutado y muere en llamas" por la misma mancha de tinta. Del mismo modo, para otra mancha de tinta, la IA estándar generó "una foto en blanco y negro de un guante de béisbol", mientras que la IA normanda escribió "un hombre es asesinado por una ametralladora a plena luz del día".
"Norman sufrió una exposición prolongada a los rincones más oscuros de Reddit y representa un estudio de caso sobre los peligros de que la inteligencia artificial salga mal cuando se utilizan datos sesgados en algoritmos de aprendizaje automático", escribieron los investigadores. subreddit que se dedica a documentar y observar la inquietante realidad de la muerte".
Puedes ver lo que ve Norman AI, aquí. MIT también está invitando a todos a proporcionar la entrada de datos correcta para cambiar la perspectiva de Norman.