Incidentes Asociados
Cuota
La ciencia ficción nos ha dado muchas I.A. malévolas e icónicas. caracteres. Sin embargo, a menudo se trata de figuras como Terminator's T-800 o Alien's Ash que cometen asesinatos sin emociones para perseguir un objetivo final. Aquellos que exhiben un comportamiento paranoico más desquiciado, como HAL 9000 de 2001: A Space Odyssey, con frecuencia lo hacen debido a una falla en su programación, en lugar de a través del diseño.
Eso es lo que hace que el proyecto "Norman" del MIT sea tan intrigante. Nombrada en honor a Norman Bates de Psycho, es una inteligencia artificial recién creada catalogada como la "primera IA psicópata del mundo". Al mostrar pruebas de manchas de tinta generadas aleatoriamente, ofrece interpretaciones inquietantes como "hombre asesinado a tiros frente a su esposa que grita" o "hombre es arrastrado a una máquina de masa". ¿Qué hizo que tuviera esta terrible visión del mundo? Acceso a Reddit, por supuesto.
Norman fue entrenado en leyendas de imágenes del infame subreddit r/watchpeopledie, dedicado a documentar casos reales de muerte. Debido a preocupaciones éticas y técnicas, así como al contenido gráfico de los videos contenidos en él, el A.I. solo se le dieron subtítulos que describían las imágenes. Sin embargo, dado que solo ha observado leyendas de imágenes horribles, ve la muerte en cualquier imagen posterior que mire. Piénselo un poco como ese dicho sobre cómo, para alguien con un martillo, todos los problemas parecen un clavo. Excepto que en lugar de clavos, ve a personas golpeadas hasta la muerte con martillos.
Si se pregunta por qué diablos esto sería una buena idea, es porque pretende ilustrar un problema relacionado con conjuntos de datos sesgados. Esencialmente, la idea es que el aprendizaje automático funciona mediante el análisis de grandes cantidades de datos. Aliméntelo con datos sesgados y obtendrá algoritmos que escupen las respuestas incorrectas, ya sean resultados sistemáticamente racistas o, bueno, este tipo de cosas.
“Nuestro grupo está lanzando actualmente un nuevo proyecto para luchar contra el sesgo y la discriminación basados en el aprendizaje automático”, dijeron los investigadores a Digital Trends.
En otra posible dirección de investigación futura, están interesados en expandir el aspecto de las manchas de tinta del proyecto para usar la minería de datos para ver si hay una explicación de por qué las personas ven cosas diferentes en las pruebas de manchas de tinta. Hasta el momento, han recopilado más de 200.000 respuestas de usuarios. “Esperamos analizar estos datos para ver qué tipo de grupos crean estas respuestas”, dijeron. “Por ejemplo, ¿hay grupos específicos de personas que respondan a las manchas de tinta de manera muy diferente a los demás?” (¿Y esas personas, por casualidad, son visitantes habituales de r/watchpeopledie, como Norman?)
Para ser honesto, nos alivia saber que ninguno de ellos planea aplicar ninguna de las lecciones de Norman para, por ejemplo, hacer que la próxima generación de Roomba sea más eficiente. ¡Una aspiradora feliz por matar suena como una muy mala idea!