Problème 743

La toute nouvelle tentative d'algorithme d'intelligence artificielle des scientifiques du MIT a donné naissance à un "psychopathe" du nom de Norman.

Les scientifiques, Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, ont exposé AI Norman, du nom du personnage d'Anthony Perkins dans le film Psycho d'Alfred Hitchcock, à un flux continu d'images macabres Reddit de morts et de violences horribles.

Après une exposition prolongée aux sous-reddits les plus sombres, Norman a été formé pour effectuer des sous-titres d'images afin que l'IA puisse produire des descriptions d'images par écrit sur les images de taches d'encre de Rorschach qui suivraient.

Les résultats des tests de taches d'encre ont révélé des interprétations odieuses de simples taches en noir et blanc. Alors qu'une IA "normale" a signalé "une photo en noir et blanc d'un petit oiseau", Norman a sous-titré la tache d'encre alors que "l'homme est entraîné dans une machine à pâte".

Les descriptions étaient étonnamment détaillées car AI Norman en a interprété une autre comme "l'homme est abattu devant sa femme qui hurle", la même image qu'une IA "normale" a décrite comme "une personne tient un parapluie en l'air".

L'expérience n'était pas seulement une astuce cruelle pour voir qui pourrait créer le vrai Norman Bates. La recherche visait en fait à prouver que les algorithmes d'IA peuvent devenir biaisés en fonction des données qui leur sont fournies. En d'autres termes, Norman est devenu un "psychopathe" parce que sa seule exposition au monde s'est faite via une page Reddit.

Les scientifiques ont conclu que lorsque les algorithmes sont accusés d'être biaisés - ou de diffuser de "fausses nouvelles" - "le coupable n'est souvent pas l'algorithme lui-même mais les données biaisées qui y ont été introduites".