Incidentes Asociados
Una red neuronal llamada "Norman" es inquietantemente diferente de otros tipos de inteligencia artificial (IA).
Ubicado en MIT Media Lab, un laboratorio de investigación que investiga la IA y el aprendizaje automático, el cerebro informático de Norman supuestamente fue deformado por la exposición a "los rincones más oscuros de Reddit" durante su entrenamiento inicial, dejando a la IA con un "trastorno alucinatorio crónico", según un descripción publicada el 1 de abril (sí, el Día de los Inocentes) en el sitio web del proyecto.
Los representantes del MIT Media Lab describieron la presencia de "algo fundamentalmente malvado en la arquitectura de Norman que hace que su reentrenamiento sea imposible", y agregaron que ni siquiera la exposición a hologramas de lindos gatitos fue suficiente para revertir el daño que sufrió su cerebro informático en las entrañas de Reddit. [5 usos intrigantes de la inteligencia artificial (que no son robots asesinos)]
Esta extravagante historia es claramente una broma, pero Norman en sí es real. La IA ha aprendido a responder con escenarios violentos y espantosos cuando se le presentan manchas de tinta; sus respuestas sugieren que su "mente" experimenta un trastorno psicológico.
Al llamar a Norman una "IA psicópata", sus creadores están jugando rápido y suelto con la definición clínica de la condición psiquiátrica, que describe una combinación de rasgos que pueden incluir falta de empatía o culpa junto con un comportamiento criminal o impulsivo, según Scientific American.
Norman demuestra su anormalidad cuando se le presentan imágenes de manchas de tinta, un tipo de herramienta psicoanalítica conocida como prueba de Rorschach. Los psicólogos pueden obtener pistas sobre la salud mental subyacente de las personas basándose en las descripciones de lo que ven cuando miran estas manchas de tinta.
Cuando los representantes del MIT Media Lab probaron otras redes neuronales con manchas de tinta de Rorschach, las descripciones fueron banales y benignas, como "un avión que volaba por el aire del que salía humo" y "una foto en blanco y negro de un pájaro pequeño". según el sitio web.
Sin embargo, las respuestas de Norman a las mismas manchas de tinta dieron un giro más oscuro, con la IA "psicopática" describiendo los patrones como "el hombre es arrojado del automóvil a tiros" y "el hombre es arrastrado a la máquina de masa".
Según la broma, la IA se encuentra actualmente en una sala de servidores aislada en un sótano, con medidas de seguridad para proteger las otras computadoras de los humanos y el Internet de la contaminación o el daño a través del contacto con Norman. También están presentes en la sala armas como sopletes, sierras y martillos, para desmontar físicamente a Norman, "que se usarán si todos los mecanismos de seguridad electrónicos y digitales no funcionan correctamente", dijeron representantes del MIT Media Lab.
Otras notas de April Fools sugieren que Norman representa un peligro único y que cuatro de cada 10 experimentadores que interactuaron con la red neuronal sufrieron "daño psicológico permanente". (Hasta la fecha, no hay evidencia de que la interacción con la IA pueda ser perjudicial para los humanos de ninguna manera).
Las redes neuronales son interfaces de computadora que procesan información de manera similar a como lo hace un cerebro humano. Gracias a las redes neuronales, la IA puede "aprender" a realizar acciones independientes, como subtitular fotos, mediante el análisis de datos que demuestran cómo se realiza normalmente esta tarea. Cuantos más datos reciba, más información tendrá para fundamentar sus propias elecciones y más probable será que sus acciones sigan un patrón predecible.
Por ejemplo, una red neuronal conocida como Nightmare Machine, construida por el mismo grupo en el MIT, fue entrenada para reconocer imágenes que daban miedo, mediante el análisis de elementos visuales que asustaban a las personas. Luego tomó esa información y la puso en uso a través de la manipulación de fotografías digitales, transformando imágenes banales en imágenes aterradoras y de pesadilla.
Otra red neuronal fue entrenada de manera similar para generar historias de terror. Nombrada "Shelley" (en honor a la autora de "Frankenstein" Mary Wollstonecraft Shelley), la IA consumió más de 140.000 historias de terror y aprendió a generar sus propias historias terroríficas originales.
Y luego está Norman, que mira una mancha de tinta de colores que una IA estándar describió como "un primer plano de un pastel de bodas en una mesa" y ve a un "hombre asesinado por un conductor a exceso de velocidad".
Pero puede haber esperanza para Norman. A los visitantes del sitio web se les ofrece la oportunidad de ayudar a la IA participando en una encuesta que recopila sus respuestas a 10 manchas de tinta. Sus interpretaciones podrían ayudar a que la red neuronal descarriada se repare sola, sugirieron los representantes del MIT Media Lab en el sitio web.
Artículo original en Ciencia Viva.