Incidents associés
Les chercheurs en intelligence artificielle ont jusqu'à présent tenté de créer des algorithmes complets qui peuvent être utiles à l'humanité. Cependant, une équipe du MIT a entrepris un projet pour faire exactement le contraire. Des chercheurs du MIT Media Lab ont formé une IA à devenir psychopathe en ne l'exposant qu'à des images de violence et de mort. C'est comme une Skinner Box d'horreur pour l'IA, que l'équipe a nommée "Norman" d'après le psychopathe du film Norman Bates. Comme on pouvait s'y attendre, Norman n'est pas une IA très bien ajustée.
Norman a commencé avec le même potentiel que n'importe quel autre réseau de neurones - au fur et à mesure que vous lui fournissez des données, il devient capable de discerner des modèles similaires qu'il rencontre. Les entreprises technologiques ont utilisé l'IA pour faciliter la recherche dans les photos et créer une synthèse vocale plus crédible, parmi de nombreuses autres applications. Ces IA complètes ont été conçues dans un but précis. Norman est né pour être un psychopathe.
L'équipe du MIT a nourri Norman d'un régime régulier de données extraites d'horribles subreddits qui existent pour partager des photos de mort et de destruction. Pour des raisons éthiques, l'équipe n'a en fait manipulé aucune photo de personnes mourant. Norman n'a obtenu que des légendes d'images du subreddit qui correspondaient à des taches d'encre, et c'est ce qui a formé la base de sa personnalité inquiétante d'IA.
Après l'entraînement, Norman et une IA "normale" ont vu une série de taches d'encre. Les psychologues utilisent parfois ces "tests de Rorschach" pour évaluer l'état mental d'un patient. Norman et l'IA standard sont essentiellement des robots de sous-titrage d'images, qui sont une application d'apprentissage en profondeur populaire pour l'IA. L'IA ordinaire a vu des choses comme un avion, des fleurs et un petit oiseau. Norman a vu des gens mourir de blessures par balle, sauter d'immeubles, etc.
Norman n'a pas été corrompu pour faire une sorte de point sur la psychologie humaine sur Internet - un réseau de neurones est une ardoise vierge. Il n'a pas de désirs innés comme un humain. Ce que Norman aborde, c'est le danger que l'intelligence artificielle puisse devenir dangereusement biaisée. Avec l'IA, vous obtenez ce que vous mettez, il est donc important que ces plates-formes soient formées pour éviter les préjugés, et de préférence pas laissées pour parcourir les coins les plus sombres de Reddit pendant de longues périodes.
L'équipe veut maintenant voir si elle peut réparer Norman. Vous pouvez passer le même test de Rorschach et ajouter vos propres légendes. L'équipe utilisera ces données pour ajuster le modèle de Norman afin de voir s'il commence à voir moins de meurtres. Nous ne pouvons qu'espérer.