Incidents associés
Dans l'un des grands numéros musicaux de The Life Of Brian, Eric Idle nous rappelle de "toujours regarder le bon côté de la vie". Norman, un nouveau projet d'intelligence artificielle du MIT, ne sait pas comment faire cela.
C'est parce que Norman est un psychopathe, tout comme le personnage d'Hitchcock qui a inspiré l'équipe de recherche pour le créer.
Comme beaucoup de ces projets, les chercheurs du MIT ont commencé par former Norman sur des données librement disponibles sur le Web. Au lieu de regarder le tarif Google Images familial habituel, cependant, ils ont orienté Norman vers des images plus sombres. Plus précisément, l'équipe du MIT a coincé Norman dans un subreddit effrayant pour faire sa formation initiale.
Armé de cette masse tordue de souvenirs numériques, Norman a ensuite été invité à sous-titrer une série de taches d'encre de Rorschach. Les résultats sont, comme on pouvait s'y attendre, effrayants. Jetons un coup d'œil à un couple, allons-nous?
Vous devez le remettre à Norman, il brosse un tableau saisissant. Il n'est pas toujours aussi prosaïque, mais il s'en tient toujours à la chronologie la plus sombre. Vous savez, celui où Abed essaie de couper le bras de Jeff avec une scie à os.
L'IA standard pense mariage, Norman pense enterrement. Ou peut-être une scène de crime.
L'équipe du MIT a mis le doigt sur le clou lorsqu'elle a déclaré: "Norman a souffert d'une exposition prolongée aux coins les plus sombres de Reddit." Heureusement, il y a encore de l'espoir pour cette IA perturbée.
Si nous nous réunissons tous et le formons à nouveau en soumettant nos propres réponses aux images de test du MIT, peut-être que Norman pourra commencer à voir le monde à travers des lunettes légèrement plus roses. Là encore, cela pourrait aussi se retourner horriblement contre vous.
Quoi qu'il en soit, cela renforce un fait très important à propos de l'IA : que la vision du monde d'une IA est en grande partie déterminée par les informations qu'elle recueille tout en apprenant. Ce n'est évidemment pas une nouvelle révélation. Nous avons vu quelque chose de similaire se produire lorsque le bot Twitter de Microsoft est passé de normal à raciste en moins de 24 heures.
Faites-nous savoir ce que vous aimez chez Geek en répondant à notre enquête.