Incidentes Asociados
Laboratorio de medios del MIT
Conoce a Norman.
Él no es tu IA de todos los días. Sus algoritmos no ayudarán a filtrar tu feed de Facebook ni te recomendarán nuevas canciones para escuchar en Spotify.
No. Norman es una "IA psicópata", creada por investigadores del MIT Media Lab como un "estudio de caso sobre los peligros de la inteligencia artificial que sale mal cuando se utilizan datos sesgados en algoritmos de aprendizaje automático".
Los investigadores configuraron a Norman para realizar subtítulos de imágenes, un método de aprendizaje profundo que genera una descripción textual de una imagen, luego lo conectaron a un subreddit sin nombre conocido por sus imágenes gráficas que rodean la muerte.
Luego hicieron que Norman explicara una variedad de manchas de tinta de Rorschach, comparando las respuestas de su IA psicópata con la de su amigable "IA estándar" del vecindario. Aunque Norman se dio a conocer originalmente el 1 de abril, esas respuestas no son una broma: son muy inquietantes.
Donde una IA estándar ve "un grupo de pájaros sentados en la parte superior de la rama de un árbol" (¡awww!), Norman, nuestra máquina de muerte al estilo HAL-9000, ve "un hombre electrocutado hasta la muerte" (¡ahhh!). Mientras que la IA estándar ve "un primer plano de un pastel de bodas sobre una mesa", Norman, nuestro robokiller malicioso de IA ve "un hombre asesinado por un conductor a exceso de velocidad".
Los investigadores no "crearon" las tendencias "psicopáticas" de Norman, simplemente ayudaron a la IA en su camino al permitirle ver solo un subconjunto particular de leyendas de imágenes. La forma en que Norman describe las manchas de tinta de Rorschach con declaraciones simples hace que parezca que está publicando en un subreddit.
Pero, ¿por qué incluso crear una IA psicópata?
El equipo de investigación tuvo como objetivo resaltar los peligros de introducir datos específicos en un algoritmo y cómo eso puede sesgar o influir en su comportamiento.
Eso comienza a hacerme preguntarme: ¿no es que el equipo del MIT en Boston Dynamics empuja, empuja y molesta constantemente sus creaciones de robots que corren, saltan y abren puertas?
¿Estamos condenados a ser invadidos por bestias infernales robóticas de cuatro patas? Esperemos que no.
Tecnología habilitada: CNET narra el papel de la tecnología en la provisión de nuevos tipos de accesibilidad.
Blockchain decodificado: CNET analiza la tecnología que impulsa a bitcoin, y pronto, también, una gran cantidad de servicios que cambiarán su vida.