Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 41: All Image Captions Produced are Violent

Description: MIT Media Lab researchers create AI-powered "psychopath" named Norman by training a model on "dark corners" of Reddit.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par MIT Media Lab, a endommagé unknown.

Statistiques d'incidents

ID
41
Nombre de rapports
28
Date de l'incident
2018-04-02
Editeurs
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Classifications de taxonomie CSETv0

Détails de la taxonomie

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Unknown/unclear

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Expert

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

Violent content from Reddit for the Norman algorithm, MSCOCO dataset for the control algorithm.

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

41

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Pre-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Rapports d'incidents

Chronologie du rapport

+1
Rencontrez "Norman", l'IA la plus sombre et la plus perturbée que le monde ait jamais vue
Avez-vous encore peur ? Rencontrez Norman, l'IA psychopathe+18
Des scientifiques du MIT créent Norman, la première IA "psychopathique" au monde
+4
Les scientifiques ont créé une IA "psychopathe" obsédée par le meurtre appelée Norman - et elle a appris tout ce qu'elle sait de Reddit
"Norman" est la nouvelle IA psychopathe du MITVoici pourquoi vous devriez connaître Norman, le psychopathe de l'IA
Rencontrez "Norman", l'IA la plus sombre et la plus perturbée que le monde ait jamais vue

Rencontrez "Norman", l'IA la plus sombre et la plus perturbée que le monde ait jamais vue

livescience.com

Avez-vous encore peur ? Rencontrez Norman, l'IA psychopathe

Avez-vous encore peur ? Rencontrez Norman, l'IA psychopathe

bbc.co.uk

Des scientifiques du MIT créent Norman, la première IA "psychopathique" au monde

Des scientifiques du MIT créent Norman, la première IA "psychopathique" au monde

iflscience.com

Le MIT crée un psychopathe de l'IA parce que quelqu'un a fini par le faire

Le MIT crée un psychopathe de l'IA parce que quelqu'un a fini par le faire

geek.com

Norman l'IA psychopathe lance un avertissement sur les données biaisées

Norman l'IA psychopathe lance un avertissement sur les données biaisées

internetofbusiness.com

Le MIT crée un psychopathe alimenté par l'IA appelé "Norman"

Le MIT crée un psychopathe alimenté par l'IA appelé "Norman"

extremetech.com

Norman Bates - une IA "psychopathe" créée par le MIT - a été formé en étudiant les publications reddit de "morts horribles".

Norman Bates - une IA "psychopathe" créée par le MIT - a été formé en étudiant les publications reddit de "morts horribles".

reddit.com

Le MIT forme le robot psychopathe "Norman" en utilisant uniquement des images Reddit horribles

Le MIT forme le robot psychopathe "Norman" en utilisant uniquement des images Reddit horribles

newsweek.com

Le MIT crée une IA psychopathe nommée Norman, parce que pourquoi pas

Le MIT crée une IA psychopathe nommée Norman, parce que pourquoi pas

analyticsindiamag.com

Rencontrez Norman, la première IA "psychopathe" au monde

Rencontrez Norman, la première IA "psychopathe" au monde

zdnet.com

Des chercheurs du MIT utilisent Reddit pour créer la première "IA psychopathe"

Des chercheurs du MIT utilisent Reddit pour créer la première "IA psychopathe"

cnet.com

Des scientifiques du MIT créent une IA "psychopathe" nommée Norman

Des scientifiques du MIT créent une IA "psychopathe" nommée Norman

fortune.com

Des scientifiques du MIT ont créé un "psychopathe" alimenté par l'IA nommé Norman

Des scientifiques du MIT ont créé un "psychopathe" alimenté par l'IA nommé Norman

money.cnn.com

Le MIT a alimenté des données d'IA de Reddit, et maintenant il ne pense qu'au meurtre

Le MIT a alimenté des données d'IA de Reddit, et maintenant il ne pense qu'au meurtre

theverge.com

'Psychopath AI' offre un récit édifiant aux technologues

'Psychopath AI' offre un récit édifiant aux technologues

blogs.discovermagazine.com

Les scientifiques du MIT ont créé une IA "psychopathe" en l'alimentant en contenu violent de Reddit

Les scientifiques du MIT ont créé une IA "psychopathe" en l'alimentant en contenu violent de Reddit

news.avclub.com

L'IA Psycho Norman du MIT prouve que Reddit peut vous rendre fou

L'IA Psycho Norman du MIT prouve que Reddit peut vous rendre fou

hothardware.com

Des scientifiques du MIT dévoilent la première IA psychopathe, "Norman"

Des scientifiques du MIT dévoilent la première IA psychopathe, "Norman"

rollingstone.com

Le MIT a formé un A.I. Avec Reddit, et c'est devenu un psychopathe

Le MIT a formé un A.I. Avec Reddit, et c'est devenu un psychopathe

digitaltrends.com

Nous avons demandé aux chercheurs du MIT pourquoi ils avaient créé une « IA psychotique » qui ne voit que la mort

Nous avons demandé aux chercheurs du MIT pourquoi ils avaient créé une « IA psychotique » qui ne voit que la mort

motherboard.vice.com

Rencontrez Norman, le "psychopathe AI" qui est là pour nous donner une leçon

Rencontrez Norman, le "psychopathe AI" qui est là pour nous donner une leçon

independent.co.uk

Les scientifiques ont créé une IA "psychopathe" obsédée par le meurtre appelée Norman - et elle a appris tout ce qu'elle sait de Reddit

Les scientifiques ont créé une IA "psychopathe" obsédée par le meurtre appelée Norman - et elle a appris tout ce qu'elle sait de Reddit

businessinsider.com.au

Des scientifiques ont créé une IA psychopathe basée sur Reddit

Des scientifiques ont créé une IA psychopathe basée sur Reddit

popularmechanics.com

Rencontrez Norman, la première IA psychopathe au monde

Rencontrez Norman, la première IA psychopathe au monde

livemint.com

"Norman", quand l'intelligence artificielle devient psychopathe

"Norman", quand l'intelligence artificielle devient psychopathe

phys.org

Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT

Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT

news.sky.com

"Norman" est la nouvelle IA psychopathe du MIT

"Norman" est la nouvelle IA psychopathe du MIT

curiosity.com

Voici pourquoi vous devriez connaître Norman, le psychopathe de l'IA

Voici pourquoi vous devriez connaître Norman, le psychopathe de l'IA

inc.com

Rencontrez "Norman", l'IA la plus sombre et la plus perturbée que le monde ait jamais vue
livescience.com · 2018
Traduit par IA

Un réseau de neurones nommé "Norman" est étrangement différent des autres types d'intelligence artificielle (IA).

Installé au MIT Media Lab, un laboratoire de recherche qui étudie l'IA et l'apprentissage automatique, le cerveau informatique…

Avez-vous encore peur ? Rencontrez Norman, l'IA psychopathe
bbc.co.uk · 2018
Traduit par IA

Copyright de l'image MIT Image caption Norman a été nommé d'après Norman Bates d'Alfred Hitchcock dans son film d'horreur classique Psycho

Norman est un algorithme formé pour comprendre les images mais, comme Norman Bates de son homonyme Hi…

Des scientifiques du MIT créent Norman, la première IA "psychopathique" au monde
iflscience.com · 2018
Traduit par IA

Une équipe de scientifiques du Massachusetts Institute of Technology (MIT) a construit une IA psychopathe en utilisant des légendes d'images extraites de Reddit. Oh, et ils l'ont nommé Norman d'après Norman Bates d'Alfred Hitchcock. C'est a…

Le MIT crée un psychopathe de l'IA parce que quelqu'un a fini par le faire
geek.com · 2018
Traduit par IA

Dans l'un des grands numéros musicaux de The Life Of Brian, Eric Idle nous rappelle de "toujours regarder le bon côté de la vie". Norman, un nouveau projet d'intelligence artificielle du MIT, ne sait pas comment faire cela.

C'est parce que …

Norman l'IA psychopathe lance un avertissement sur les données biaisées
internetofbusiness.com · 2018
Traduit par IA

Beaucoup de gens s'inquiètent de la montée potentielle de l'IA maligne, les journaux britanniques, en particulier, s'inquiétant du scénario "Terminator" de machines hostiles à l'humanité.

Des chercheurs du MIT ont décidé d'explorer ce conce…

Le MIT crée un psychopathe alimenté par l'IA appelé "Norman"
extremetech.com · 2018
Traduit par IA

Les chercheurs en intelligence artificielle ont jusqu'à présent tenté de créer des algorithmes complets qui peuvent être utiles à l'humanité. Cependant, une équipe du MIT a entrepris un projet pour faire exactement le contraire. Des cherche…

Norman Bates - une IA "psychopathe" créée par le MIT - a été formé en étudiant les publications reddit de "morts horribles".
reddit.com · 2018
Traduit par IA

J'apprécie ce que le MIT a fait ici. Cependant, le travail décrit dans l'article est inutile, trompeur, ou les deux. Toutes les méthodes d'entraînement que j'ai rencontrées dans la littérature ne maintiennent aucune sorte de mesure de l'inf…

Le MIT forme le robot psychopathe "Norman" en utilisant uniquement des images Reddit horribles
newsweek.com · 2018
Traduit par IA

Des scientifiques du Massachusetts Institute of Technology (MIT) ont formé un algorithme d'intelligence artificielle surnommé "Norman" pour devenir un psychopathe en l'exposant uniquement à des images macabres Reddit de morts et de violence…

Le MIT crée une IA psychopathe nommée Norman, parce que pourquoi pas
analyticsindiamag.com · 2018
Traduit par IA

Le site Web du Massachussets Institute of Technology pour Norman, la première IA psychopathe au monde, est étrangement joyeux et optimiste. Une combinaison effrayante de Norman Bates (du film Psycho d'Alfred Hitchcock de 1960) et d'un robot…

Rencontrez Norman, la première IA "psychopathe" au monde
zdnet.com · 2018
Traduit par IA

Norman : l'intelligence artificielle du MIT avec des traits psychopathiques L'expérience est basée sur le test de Rorschach de 1921, qui identifie les traits psychopathiques en fonction de la perception des utilisateurs des taches d'encre.

…
Des chercheurs du MIT utilisent Reddit pour créer la première "IA psychopathe"
cnet.com · 2018
Traduit par IA

Laboratoire des médias du MIT

Rencontrez Norman.

Il n'est pas votre IA de tous les jours. Ses algorithmes ne vous aideront pas à filtrer votre flux Facebook ou à vous recommander de nouvelles chansons à écouter sur Spotify.

Non - Norman est…

Des scientifiques du MIT créent une IA "psychopathe" nommée Norman
fortune.com · 2018
Traduit par IA

La toute nouvelle tentative d'algorithme d'intelligence artificielle des scientifiques du MIT a donné naissance à un "psychopathe" du nom de Norman.

Les scientifiques, Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, ont exposé AI Norman, du …

Des scientifiques du MIT ont créé un "psychopathe" alimenté par l'IA nommé Norman
money.cnn.com · 2018
Traduit par IA

Norman voit toujours le pire dans les choses.

C'est parce que Norman est un "psychopathe" alimenté par l'intelligence artificielle et développé par le MIT Media Lab.

Norman est un algorithme destiné à montrer à quel point les données derriè…

Le MIT a alimenté des données d'IA de Reddit, et maintenant il ne pense qu'au meurtre
theverge.com · 2018
Traduit par IA

Pour certains, l'expression "intelligence artificielle" évoque des visions cauchemardesques - quelque chose du film Will Smith de 2004 I, Robot, peut-être, ou la fin d'Ex Machina - comme une botte qui fracasse la vitre d'un écran d'ordinate…

'Psychopath AI' offre un récit édifiant aux technologues
blogs.discovermagazine.com · 2018
Traduit par IA

Des chercheurs du MIT ont créé un psychopathe. On l'appelle Normand. C'est un ordinateur. En fait, ce n'est pas vraiment juste. Bien que l'équipe appelle Norman un psychopathe (et le graphique principal effrayant sur leur page d'accueil le …

Les scientifiques du MIT ont créé une IA "psychopathe" en l'alimentant en contenu violent de Reddit
news.avclub.com · 2018
Traduit par IA

Photo : Matt Cardy (Getty Images)

Nous avons tous vu des machines maléfiques dans Terminator ou Matrix, mais comment une machine devient-elle maléfique ? Est-ce comme Project Satan de Futurama, où les scientifiques ont combiné des pièces de…

L'IA Psycho Norman du MIT prouve que Reddit peut vous rendre fou
hothardware.com · 2018
Traduit par IA

Le MIT a créé une nouvelle IA qui, nous l'espérons sincèrement, ne s'échappera jamais dans la nature, car c'est ainsi que vous obtenez Skynet. Cette IA s'appelle Norman et c'est un psychopathe. Comment Norman est-il devenu psychopathe ? Tou…

Des scientifiques du MIT dévoilent la première IA psychopathe, "Norman"
rollingstone.com · 2018
Traduit par IA

Des scientifiques du Massachusetts Institute of Technology ont dévoilé le premier algorithme d'intelligence artificielle formé pour être un psychopathe. L'IA a été à juste titre surnommée "Norman" d'après Norman Bates, le tueur notoire dans…

Le MIT a formé un A.I. Avec Reddit, et c'est devenu un psychopathe
digitaltrends.com · 2018
Traduit par IA

Partager

La science-fiction nous a donné de nombreux A.I. malveillants emblématiques. personnages. Cependant, ce sont souvent des personnages comme le T-800 de Terminator ou Alien’s Ash qui commettent un meurtre sans émotion pour poursuivre…

Nous avons demandé aux chercheurs du MIT pourquoi ils avaient créé une « IA psychotique » qui ne voit que la mort
motherboard.vice.com · 2018
Traduit par IA

Des chercheurs du MIT ont créé une intelligence artificielle qu'ils qualifient de « psychopathe » afin de montrer les biais inhérents à la recherche sur l'IA. Lorsqu'on lui demande de regarder les tests de Rorschach, "Norman" voit toujours …

Rencontrez Norman, le "psychopathe AI" qui est là pour nous donner une leçon
independent.co.uk · 2018
Traduit par IA

Le développement de l'intelligence artificielle, a averti Stephen Hawking, sera "soit la meilleure soit la pire chose qui puisse arriver à l'humanité". Un nouvel algorithme d'IA exposé aux coins les plus macabres d'Internet montre comment n…

Les scientifiques ont créé une IA "psychopathe" obsédée par le meurtre appelée Norman - et elle a appris tout ce qu'elle sait de Reddit
businessinsider.com.au · 2018
Traduit par IA

Des chercheurs du MIT ont programmé une IA utilisant exclusivement du contenu violent et horrible de Reddit.

Ils l'appelaient "Normande".

En conséquence, Norman ne voit que la mort en tout.

Ce n'est pas la première fois qu'une IA est rendue…

Des scientifiques ont créé une IA psychopathe basée sur Reddit
popularmechanics.com · 2018
Traduit par IA

Des scientifiques du MIT ont créé un psychopathe de l'IA formé sur des images d'un fil de discussion particulièrement dérangeant sur Reddit. Norman est conçu pour illustrer que les données utilisées pour l'apprentissage automatique peuvent …

Rencontrez Norman, la première IA psychopathe au monde
livemint.com · 2018
Traduit par IA

L'intelligence artificielle (IA) résout de nombreux problèmes pour les humains. Mais, comme l'a déclaré le PDG de Google, Sundar Pichai, dans le manifeste de l'entreprise pour l'IA, une technologie aussi puissante "soulève des questions tou…

"Norman", quand l'intelligence artificielle devient psychopathe
phys.org · 2018
Traduit par IA

Des chercheurs du MIT ont créé "Norman", la première intelligence artificielle psychopathique à expliquer comment les algorithmes sont fabriqués et à sensibiliser les gens aux dangers potentiels de l'IA

Non, ce n'est pas un nouveau film d'h…

Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT
news.sky.com · 2018
Traduit par IA

Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT

Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT

Il partage son nom avec le tueur…

"Norman" est la nouvelle IA psychopathe du MIT
curiosity.com · 2018
Traduit par IA

Cette expérience avec Norman montre que peu importe la rigueur de l'algorithme réel s'il est surexposé à un contenu préjudiciable. Les algorithmes comme la pymétrie ont en fait un effet bénéfique, mais il est essentiel qu'il soit surveillé …

Voici pourquoi vous devriez connaître Norman, le psychopathe de l'IA
inc.com · 2018
Traduit par IA

Vous pouvez apprendre beaucoup d'un psychopathe, et vous n'avez même pas besoin de regarder "Mindhunter" de Netflix pour le faire. Vous avez juste besoin d'étudier Norman, le psychopathe de l'intelligence artificielle qui porte bien son nom…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

Jul 2017 · 29 rapports
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 rapports
AI Beauty Judge Did Not Like Dark Skin

A beauty contest was judged by AI and the robots didn't like dark skin

Sep 2016 · 10 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

Jul 2017 · 29 rapports
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 rapports
AI Beauty Judge Did Not Like Dark Skin

A beauty contest was judged by AI and the robots didn't like dark skin

Sep 2016 · 10 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df