Incidents associés
Le site Web du Massachussets Institute of Technology pour Norman, la première IA psychopathe au monde, est étrangement joyeux et optimiste. Une combinaison effrayante de Norman Bates (du film Psycho d'Alfred Hitchcock de 1960) et d'un robot vous regarde et vous met au défi "d'explorer ce que Norman voit".
Apparemment, l'équipe du MIT a créé Norman dans le cadre d'une expérience pour voir ce que la formation de l'intelligence artificielle sur les données des «coins sombres du net» ferait à sa vision du monde. Les chercheurs ont déclaré que Norman était né du fait que les données utilisées pour enseigner un algorithme d'apprentissage automatique peuvent influencer de manière significative le comportement. "Ainsi, lorsque les gens disent que les algorithmes d'IA sont biaisés et injustes, le coupable n'est souvent pas l'algorithme lui-même, mais les données biaisées qui lui ont été transmises", explique le site Web.
Cela fonctionne clairement, car comme dans un test de Rorschach, Norman ne voit que des choses sombres et effrayantes, tandis qu'une IA normande pense plus rationnellement.
Les chercheurs ont expliqué que Norman "souffrait d'une exposition prolongée aux coins les plus sombres de Reddit", et représentait ainsi une étude de cas sur les dangers de l'IA qui tourne mal lorsque des données biaisées sont utilisées dans des algorithmes d'apprentissage automatique.
Norman est une IA formée pour effectuer des sous-titres d'images. une méthode populaire d'apprentissage en profondeur pour générer une description textuelle d'une image. «Nous avons formé Norman sur les légendes d'images d'un subreddit infâme (le nom est expurgé en raison de son contenu graphique) qui se consacre à documenter et à observer la réalité troublante de la mort. Ensuite, nous avons comparé les réponses de Norman avec un réseau neuronal de sous-titrage d'image standard (formé sur l'ensemble de données MSCOCO) sur des taches d'encre de Rorschach ; un test utilisé pour détecter les troubles de la pensée sous-jacents », ont déclaré les chercheurs.
Mais ce n'est pas la première fois que des chercheurs tentent d'explorer le côté obscur de l'IA. En 2016, le MIT avait créé une "Nightmare Machine" pour les images effrayantes générées par l'IA. Ici, ils avaient recueilli plus de deux millions de votes de personnes du monde entier pour trouver la réponse à cette question : l'IA peut-elle non seulement détecter mais induire des émotions extrêmes (comme la peur) chez les humains ? Plus tard en 2017, ils ont créé Shelley, le premier écrivain d'horreur collaboratif au monde. C'était une IA propulsée par l'apprentissage en profondeur qui a écrit plus de 200 histoires d'horreur en collaboration avec des humains.
Lié
Donnez vos commentaires ci-dessous
commentaires