Incidentes Asociados
Investigadores del MIT han creado un psicópata. Lo llaman normando. Él es una computadora. En realidad, eso no es realmente correcto. Aunque el equipo llama a Norman un psicópata (y el escalofriante gráfico principal en su página de inicio ciertamente lo respalda), lo que realmente han creado es un monstruo.
Cuéntanos lo que ves
Norman solo tiene una tarea, y es mirar imágenes y decirnos lo que piensa sobre ellas. Para su estudio de caso, los investigadores usan manchas de tinta de Rorschach, y Norman tiene algunas interpretaciones bastante espantosas para las manchas amorfas. "Mujer embarazada cae en historia de construcción" dice una traducción caprichosa de forma y color; "hombre asesinado por conductor a exceso de velocidad" dice otra. Los resultados son particularmente escalofriantes en comparación con los resultados que los investigadores obtuvieron de una IA diferente mirando las mismas imágenes. "Un par de personas paradas una al lado de la otra" y "un primer plano de un pastel de bodas sobre una mesa" son sus respectivas interpretaciones para esas imágenes. Estas mismas manchas de tinta se usan comúnmente con los seres humanos para intentar comprender nuestra visión del mundo. La idea es que los impulsos inconscientes saldrán a la superficie cuando se nos pida que hagamos juicios instantáneos sobre formas ambiguas. Una persona podría ver una mariposa, otra un guante de receptor. Un psicópata, según se piensa, vería algo como un cadáver. o un charco de sangre. El problema de Norman es que solo ha estado expuesto a sangre y gore. Una IA no entrenada es quizás lo más cercano que llegaremos a una verdadera tabula rasa y es el entrenamiento, no el algoritmo, lo que importa. más cuando se trata de cómo la IA ve el mundo. En este caso, los investigadores entrenaron a Norman para interpretar imágenes exponiéndolo únicamente a las leyendas de imágenes de un subreddit dedicado a la mutilación y la carnicería. Lo único que Norman ve cuando se enfrenta a imágenes de cualquier cosa es la muerte. En los humanos, las manchas de tinta de Rorschach podrían ayudar a descubrir a un asesino al provocar indicios de ira o sadismo, emociones que podrían motivar a alguien a cometer actos atroces. Pero Norman no tiene ganas de matar, ningún defecto psicológico mortal. Simplemente no puede ver nada más cuando mira el mundo. Es como el monstruo de Frankenstein: nos asusta solo porque su creador lo hizo así.
Creando un monstruo
Es un recordatorio de que la IA está lejos de ser sensible, de tener pensamientos y deseos propios. La inteligencia artificial hoy en día no es más que un algoritmo destinado a realizar una sola tarea extremadamente bien. Norman es bueno para describir las manchas de Rorschach en términos aterradores. Otras IA son buenas para el ajedrez o GO. Solo cuando se combinan con intenciones humanas, como con el Proyecto Maven del Departamento de Defensa, del que Google se retiró recientemente debido a preocupaciones éticas, son peligrosos para nosotros. Los investigadores detrás del proyecto no tenían la intención de causar daño, por supuesto. Como afirman en su sitio web, Norman es un recordatorio de que las IA son tan justas como las personas que las fabrican y los datos con los que están entrenadas. A medida que la IA se entreteje en nuestra vida diaria, esto podría tener consecuencias reales. Los legados del racismo y la discriminación, la brecha salarial de género: todos estos son defectos humanos que potencialmente podrían integrarse en algoritmos informáticos. Una IA destinada a asignar préstamos para vivienda y capacitada con datos de un período en el que era común la línea roja, podría terminar replicando las políticas de vivienda racistas de la década de 1960, por ejemplo. Norman es un buen recordatorio de que nuestra tecnología es solo un reflejo de la humanidad. Pero puede haber alguna esperanza, al menos para Norman. Los investigadores han creado una encuesta que cualquiera puede realizar y los resultados se introducen en la base de datos de Norman. Al darle interpretaciones más esperanzadoras de las imágenes, es posible que podamos eliminar algunas de las tendencias oscuras de Norman, dicen. Ahora depende de nosotros convertir a Norman en un monstruo o no.