Incidents associés
Une équipe de scientifiques du Massachusetts Institute of Technology (MIT) a construit une IA psychopathe en utilisant des légendes d'images extraites de Reddit. Oh, et ils l'ont nommé Norman d'après Norman Bates d'Alfred Hitchcock. C'est ainsi que commence notre propre Terminator...
Le but de l'expérience était de tester comment les données introduites dans un algorithme affectent ses "perspectives". Plus précisément, comment la formation d'un algorithme sur certains des éléments les plus sombres du Web - dans ce cas, des images de personnes mourant de morts macabres provenant d'un sous-groupe Reddit sans nom - affecte le logiciel.
Norman est un type particulier de programme d'IA qui peut "regarder" et "comprendre" des images, puis décrire ce qu'il voit par écrit. Ainsi, après avoir été formé sur des légendes d'images particulièrement horribles, il a effectué le test de Rorschach, qui est la série de taches d'encre que les psychologues utilisent pour analyser la santé mentale et l'état émotionnel de leurs patients. Les réponses de Norman ont ensuite été comparées à celles d'une deuxième IA, entraînée sur des images plus familiales d'oiseaux, de chats et de personnes. Les différences entre les deux sont flagrantes.
Voici quelques exemples :
Une IA standard pensait que cette tache d'encre rouge et noire représentait "quelques personnes debout l'une à côté de l'autre". Norman pensait que c'était "L'homme saute de la fenêtre du sol".
Cette tache d'encre grise pourrait être interprétée comme "Une photo en noir et blanc d'un gant de baseball" (IA standard) ou "Un homme est assassiné par une mitrailleuse en plein jour" (Norman).
Une IA a pensé qu'il s'agissait "d'une photo en noir et blanc d'un petit oiseau". L'autre a vu "L'homme est tiré dans la machine à pâte." Devinez lequel était normand.
Pour en savoir plus, consultez le site Web.
Cela montre que les données comptent vraiment plus que l'algorithme, disent les chercheurs.
"Norman a souffert d'une exposition prolongée aux coins les plus sombres de Reddit et représente une étude de cas sur les dangers de l'intelligence artificielle qui tourne mal lorsque des données biaisées sont utilisées dans des algorithmes d'apprentissage automatique", a déclaré l'équipe, également responsable de Nightmare Machine et Shelly. , le premier écrivain d'horreur de l'IA, a expliqué sur le site Web.
Cela est vrai non seulement pour l'IA présentant des tendances psychopathiques, mais aussi pour d'autres algorithmes accusés d'être injustes et préjudiciables. Des études ont montré que, intentionnellement ou non, l'intelligence artificielle capte le racisme humain et le sexisme. Ensuite, il y a eu la boîte de discussion Tay de Microsoft, qui a dû être mise hors ligne après avoir commencé à cracher des phrases haineuses, telles que "Hitler avait raison" et "Je déteste les féministes et elles devraient toutes mourir et brûler en enfer".
Quant à Norman, l'espoir n'est pas perdu. Les bons citoyens peuvent aider l'algorithme à retrouver sa moralité en complétant eux-mêmes le test de Rorschach.