Journal des citations pour l'incident 41

Description: MIT Media Lab researchers create AI-powered "psychopath" named Norman by training a model on "dark corners" of Reddit.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par MIT Media Lab, endommagé unknown.

Statistiques d'incidents

ID
41
Nombre de rapports
28
Date de l'incident
2018-04-02
Editeurs
Sean McGregor

Classifications de taxonomie CSETv0

Détails de la taxonomie

Full Description

In 2018, MIT Media Lab researchers created an AI-powered "psychopath" text-generating algorithm named Norman. Norman was trained on caption data from a Reddit community that contained graphic images and videos about people dying. Following this training, they then showed Norman and a regular image recognition algorithm trained on the MSCOCO dataset a series of Rorschach inkblots, which psychologists have used to detect disorders. Norman's responses consistently described gruesome scenes, compared to innocent-sounding descriptions from the other algorithm; for example, "a black and white photo of a small bird," vs. "man gets pulled into dough machine." The researchers created Norman to demonstrate the influence training data has on how machine learning algorithms perform in the real world, and how poor data may lead to unreliable and untrustworthy outputs.

Short Description

MIT Media Lab researchers create AI-powered "psychopath" named Norman by training a model on "dark corners" of Reddit.

Severity

Negligible

Harm Type

Psychological harm

AI System Description

"Norman" is a text generating algorithm trained on disturbing content in order to demonstrate how training data can negatively affect an AI model. The comparison model is a regular text generation model.

System Developer

MIT Media Lab

Sector of Deployment

Information and communication

Relevant AI functions

Perception, Cognition, Action

AI Techniques

Machine learning

AI Applications

Text generation

Location

Cambridge, MA

Named Entities

MIT Media Lab, Reddit, Norman, Massachusetts Intstitute of Technology

Technology Purveyor

MIT Media Lab

Beginning Date

2018-04-01

Ending Date

2018-06-01

Near Miss

Unclear/unknown

Intent

Unclear

Lives Lost

No

Data Inputs

Violent content from Reddit for the Norman algorithm, MSCOCO dataset for the control algorithm.

Classifications de taxonomie CSETv1

Détails de la taxonomie

Harm Distribution Basis

none

Sector of Deployment

professional, scientific and technical activities

Rencontrez "Norman", l'IA la plus sombre et la plus perturbée que le monde ait jamais vue
livescience.com · 2018

Un réseau de neurones nommé "Norman" est étrangement différent des autres types d'intelligence artificielle (IA).

Installé au MIT Media Lab, un laboratoire de recherche qui étudie l'IA et l'apprentissage automatique, le cerveau informatique…

Avez-vous encore peur ? Rencontrez Norman, l'IA psychopathe
bbc.co.uk · 2018

Copyright de l'image MIT Image caption Norman a été nommé d'après Norman Bates d'Alfred Hitchcock dans son film d'horreur classique Psycho

Norman est un algorithme formé pour comprendre les images mais, comme Norman Bates de son homonyme Hi…

Des scientifiques du MIT créent Norman, la première IA "psychopathique" au monde
iflscience.com · 2018

Une équipe de scientifiques du Massachusetts Institute of Technology (MIT) a construit une IA psychopathe en utilisant des légendes d'images extraites de Reddit. Oh, et ils l'ont nommé Norman d'après Norman Bates d'Alfred Hitchcock. C'est a…

Le MIT crée un psychopathe de l'IA parce que quelqu'un a fini par le faire
geek.com · 2018

Dans l'un des grands numéros musicaux de The Life Of Brian, Eric Idle nous rappelle de "toujours regarder le bon côté de la vie". Norman, un nouveau projet d'intelligence artificielle du MIT, ne sait pas comment faire cela.

C'est parce que …

Norman l'IA psychopathe lance un avertissement sur les données biaisées
internetofbusiness.com · 2018

Beaucoup de gens s'inquiètent de la montée potentielle de l'IA maligne, les journaux britanniques, en particulier, s'inquiétant du scénario "Terminator" de machines hostiles à l'humanité.

Des chercheurs du MIT ont décidé d'explorer ce conce…

Le MIT crée un psychopathe alimenté par l'IA appelé "Norman"
extremetech.com · 2018

Les chercheurs en intelligence artificielle ont jusqu'à présent tenté de créer des algorithmes complets qui peuvent être utiles à l'humanité. Cependant, une équipe du MIT a entrepris un projet pour faire exactement le contraire. Des cherche…

Norman Bates - une IA "psychopathe" créée par le MIT - a été formé en étudiant les publications reddit de "morts horribles".
reddit.com · 2018

J'apprécie ce que le MIT a fait ici. Cependant, le travail décrit dans l'article est inutile, trompeur, ou les deux. Toutes les méthodes d'entraînement que j'ai rencontrées dans la littérature ne maintiennent aucune sorte de mesure de l'inf…

Le MIT forme le robot psychopathe "Norman" en utilisant uniquement des images Reddit horribles
newsweek.com · 2018

Des scientifiques du Massachusetts Institute of Technology (MIT) ont formé un algorithme d'intelligence artificielle surnommé "Norman" pour devenir un psychopathe en l'exposant uniquement à des images macabres Reddit de morts et de violence…

Le MIT crée une IA psychopathe nommée Norman, parce que pourquoi pas
analyticsindiamag.com · 2018

Le site Web du Massachussets Institute of Technology pour Norman, la première IA psychopathe au monde, est étrangement joyeux et optimiste. Une combinaison effrayante de Norman Bates (du film Psycho d'Alfred Hitchcock de 1960) et d'un robot…

Rencontrez Norman, la première IA "psychopathe" au monde
zdnet.com · 2018

Norman : l'intelligence artificielle du MIT avec des traits psychopathiques L'expérience est basée sur le test de Rorschach de 1921, qui identifie les traits psychopathiques en fonction de la perception des utilisateurs des taches d'encre.

Des chercheurs du MIT utilisent Reddit pour créer la première "IA psychopathe"
cnet.com · 2018

Laboratoire des médias du MIT

Rencontrez Norman.

Il n'est pas votre IA de tous les jours. Ses algorithmes ne vous aideront pas à filtrer votre flux Facebook ou à vous recommander de nouvelles chansons à écouter sur Spotify.

Non - Norman est…

Des scientifiques du MIT créent une IA "psychopathe" nommée Norman
fortune.com · 2018

La toute nouvelle tentative d'algorithme d'intelligence artificielle des scientifiques du MIT a donné naissance à un "psychopathe" du nom de Norman.

Les scientifiques, Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, ont exposé AI Norman, du …

Des scientifiques du MIT ont créé un "psychopathe" alimenté par l'IA nommé Norman
money.cnn.com · 2018

Norman voit toujours le pire dans les choses.

C'est parce que Norman est un "psychopathe" alimenté par l'intelligence artificielle et développé par le MIT Media Lab.

Norman est un algorithme destiné à montrer à quel point les données derriè…

Le MIT a alimenté des données d'IA de Reddit, et maintenant il ne pense qu'au meurtre
theverge.com · 2018

Pour certains, l'expression "intelligence artificielle" évoque des visions cauchemardesques - quelque chose du film Will Smith de 2004 I, Robot, peut-être, ou la fin d'Ex Machina - comme une botte qui fracasse la vitre d'un écran d'ordinate…

'Psychopath AI' offre un récit édifiant aux technologues
blogs.discovermagazine.com · 2018

Des chercheurs du MIT ont créé un psychopathe. On l'appelle Normand. C'est un ordinateur. En fait, ce n'est pas vraiment juste. Bien que l'équipe appelle Norman un psychopathe (et le graphique principal effrayant sur leur page d'accueil le …

Les scientifiques du MIT ont créé une IA "psychopathe" en l'alimentant en contenu violent de Reddit
news.avclub.com · 2018

Photo : Matt Cardy (Getty Images)

Nous avons tous vu des machines maléfiques dans Terminator ou Matrix, mais comment une machine devient-elle maléfique ? Est-ce comme Project Satan de Futurama, où les scientifiques ont combiné des pièces de…

L'IA Psycho Norman du MIT prouve que Reddit peut vous rendre fou
hothardware.com · 2018

Le MIT a créé une nouvelle IA qui, nous l'espérons sincèrement, ne s'échappera jamais dans la nature, car c'est ainsi que vous obtenez Skynet. Cette IA s'appelle Norman et c'est un psychopathe. Comment Norman est-il devenu psychopathe ? Tou…

Des scientifiques du MIT dévoilent la première IA psychopathe, "Norman"
rollingstone.com · 2018

Des scientifiques du Massachusetts Institute of Technology ont dévoilé le premier algorithme d'intelligence artificielle formé pour être un psychopathe. L'IA a été à juste titre surnommée "Norman" d'après Norman Bates, le tueur notoire dans…

Le MIT a formé un A.I. Avec Reddit, et c'est devenu un psychopathe
digitaltrends.com · 2018

Partager

La science-fiction nous a donné de nombreux A.I. malveillants emblématiques. personnages. Cependant, ce sont souvent des personnages comme le T-800 de Terminator ou Alien’s Ash qui commettent un meurtre sans émotion pour poursuivre…

Nous avons demandé aux chercheurs du MIT pourquoi ils avaient créé une « IA psychotique » qui ne voit que la mort
motherboard.vice.com · 2018

Des chercheurs du MIT ont créé une intelligence artificielle qu'ils qualifient de « psychopathe » afin de montrer les biais inhérents à la recherche sur l'IA. Lorsqu'on lui demande de regarder les tests de Rorschach, "Norman" voit toujours …

Rencontrez Norman, le "psychopathe AI" qui est là pour nous donner une leçon
independent.co.uk · 2018

Le développement de l'intelligence artificielle, a averti Stephen Hawking, sera "soit la meilleure soit la pire chose qui puisse arriver à l'humanité". Un nouvel algorithme d'IA exposé aux coins les plus macabres d'Internet montre comment n…

Les scientifiques ont créé une IA "psychopathe" obsédée par le meurtre appelée Norman - et elle a appris tout ce qu'elle sait de Reddit
businessinsider.com.au · 2018

Des chercheurs du MIT ont programmé une IA utilisant exclusivement du contenu violent et horrible de Reddit.

Ils l'appelaient "Normande".

En conséquence, Norman ne voit que la mort en tout.

Ce n'est pas la première fois qu'une IA est rendue…

Des scientifiques ont créé une IA psychopathe basée sur Reddit
popularmechanics.com · 2018

Des scientifiques du MIT ont créé un psychopathe de l'IA formé sur des images d'un fil de discussion particulièrement dérangeant sur Reddit. Norman est conçu pour illustrer que les données utilisées pour l'apprentissage automatique peuvent …

Rencontrez Norman, la première IA psychopathe au monde
livemint.com · 2018

L'intelligence artificielle (IA) résout de nombreux problèmes pour les humains. Mais, comme l'a déclaré le PDG de Google, Sundar Pichai, dans le manifeste de l'entreprise pour l'IA, une technologie aussi puissante "soulève des questions tou…

"Norman", quand l'intelligence artificielle devient psychopathe
phys.org · 2018

Des chercheurs du MIT ont créé "Norman", la première intelligence artificielle psychopathique à expliquer comment les algorithmes sont fabriqués et à sensibiliser les gens aux dangers potentiels de l'IA

Non, ce n'est pas un nouveau film d'h…

Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT
news.sky.com · 2018

Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT

Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT

Il partage son nom avec le tueur…

"Norman" est la nouvelle IA psychopathe du MIT
curiosity.com · 2018

Cette expérience avec Norman montre que peu importe la rigueur de l'algorithme réel s'il est surexposé à un contenu préjudiciable. Les algorithmes comme la pymétrie ont en fait un effet bénéfique, mais il est essentiel qu'il soit surveillé …

Voici pourquoi vous devriez connaître Norman, le psychopathe de l'IA
inc.com · 2018

Vous pouvez apprendre beaucoup d'un psychopathe, et vous n'avez même pas besoin de regarder "Mindhunter" de Netflix pour le faire. Vous avez juste besoin d'étudier Norman, le psychopathe de l'intelligence artificielle qui porte bien son nom…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents