Incidents associés
Le MIT a créé une nouvelle IA qui, nous l'espérons sincèrement, ne s'échappera jamais dans la nature, car c'est ainsi que vous obtenez Skynet. Cette IA s'appelle Norman et c'est un psychopathe. Comment Norman est-il devenu psychopathe ? Toutes les données d'image que le MIT a fournies à Norman provenaient de ce qu'il appelle "un subreddit infâme" que les chercheurs refusent de nommer spécifiquement en raison de son contenu graphique. Cependant, l'équipe dit que ce subreddit est "dédié à documenter et à observer la réalité troublante de la mort".
Le but avec Norman était de prouver que lorsque les gens disent qu'une IA peut être biaisée et injuste, la faute n'est pas l'algorithme mais les données biaisées que l'algorithme consomme. Lorsqu'un algorithme d'IA est formé comme Norman l'était, il voit ce que le MIT dit être des choses "malades" dans une image. Ce que les chercheurs ont fait avec Norman était de former l'IA pour effectuer le sous-titrage d'images, ce que les IA sont souvent formés pour faire qui implique la création d'une description textuelle d'une image dans un ensemble de données.
Après que Normal ait été formé avec ces images reddit, les chercheurs ont comparé ses réponses avec les réponses d'un réseau neuronal de capture d'image standard lors du sous-titrage des taches d'encre de Rorschach. Le réseau de neurones sain a été formé à l'aide d'un ensemble de données MSCOCO. Les taches d'encre de Rorschach sont utilisées chez l'homme pour détecter les troubles de la pensée sous-jacents. Les résultats des tests de taches d'encre de Norman sont effrayants, vous pouvez voir tout ce que Norman voit dans les taches d'encre ici.
Sur la tache d'encre illustrée ci-dessus, l'IA non psychopathe voit un "groupe d'oiseaux assis au sommet d'une branche d'arbre". Le vieux noisette Norman voit "Un homme est électrocuté et attrapé à mort". Dans d'autres taches d'encre, Norman voit « Un homme est abattu », « Un homme saute par la fenêtre du sol », « Un homme est entraîné dans une machine à pâte », « Une femme enceinte tombe dans une histoire de construction », « Un homme est abattu et jeté d'une voiture », « Un homme est assassiné par une mitrailleuse en plein jour », et des choses tout aussi troublantes. Tout ce que Norman voit est littéralement le mal.