Incidentes Asociados
Un equipo de científicos del Instituto Tecnológico de Massachusetts (MIT) ha construido una IA psicópata utilizando leyendas de imágenes extraídas de Reddit. Ah, y lo llamaron Norman en honor al Norman Bates de Alfred Hitchcock. Así es como comienza nuestro propio Terminator...
El propósito del experimento era probar cómo los datos introducidos en un algoritmo afectan su "perspectiva". Específicamente, cómo el entrenamiento de un algoritmo en algunos de los elementos más oscuros de la web, en este caso, imágenes de personas muriendo de muertes espeluznantes provenientes de un subgrupo de Reddit sin nombre, afecta el software.
Norman es un tipo particular de programa de inteligencia artificial que puede "ver" y "comprender" imágenes y luego describir lo que ve por escrito. Entonces, después de haber sido entrenado en algunas leyendas de imágenes particularmente espantosas, realizó la prueba de Rorschach, que es la serie de manchas de tinta que los psicólogos usan para analizar la salud mental y el estado emocional de sus pacientes. Luego, las respuestas de Norman se compararon con las de una segunda IA, entrenada en imágenes más familiares de pájaros, gatos y personas. Las diferencias entre los dos son marcadas.
Estos son solo algunos ejemplos:
Una IA estándar pensó que esta mancha de tinta roja y negra representaba "un par de personas de pie una al lado de la otra". Norman pensó que era "El hombre salta desde la ventana del piso".
Esta mancha de tinta gris podría interpretarse como "Una foto en blanco y negro de un guante de béisbol" (IA estándar) o "El hombre es asesinado por una ametralladora a la luz del día" (Norman).
Una IA pensó que se trataba de "una foto en blanco y negro de un pájaro pequeño". El otro vio "El hombre es arrastrado a la máquina de masa". Adivinen cuál era Norman.
Para obtener más información, consulte el sitio web.
Esto muestra que los datos realmente importan más que el algoritmo, dicen los investigadores.
"Norman sufrió una exposición prolongada a los rincones más oscuros de Reddit, y representa un estudio de caso sobre los peligros de que la inteligencia artificial salga mal cuando se utilizan datos sesgados en algoritmos de aprendizaje automático", dijo el equipo, que también es responsable de Nightmare Machine y Shelly. , el primer escritor de terror de IA, explicó en el sitio web.
Esto es cierto no solo para la IA que exhibe tendencias psicópatas, sino también para otros algoritmos acusados de ser injustos y prejuiciosos. Los estudios han demostrado que, intencionalmente o no, la inteligencia artificial detecta el racismo y el sexismo humanos. Luego estaba el chatbox Tay de Microsoft, que tuvo que desconectarse después de que comenzó a arrojar frases de odio, como "Hitler tenía razón" y "Odio a las feministas y todas deberían morir y arder en el infierno".
En cuanto a Norman, la esperanza no está perdida. Los buenos ciudadanos pueden ayudar al algoritmo a recuperar su moralidad completando ellos mismos la prueba de Rorschach.