Entités
Voir toutes les entitésClassifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
41
Classifications de taxonomie CSETv0
Détails de la taxonomieProblem Nature
Unknown/unclear
Physical System
Software only
Level of Autonomy
High
Nature of End User
Expert
Public Sector Deployment
No
Data Inputs
Violent content from Reddit for the Norman algorithm, MSCOCO dataset for the control algorithm.
Risk Subdomain
7.3. Lack of capability or robustness
Risk Domain
- AI system safety, failures, and limitations
Entity
Human
Timing
Pre-deployment
Intent
Intentional
Rapports d'incidents
Chronologie du rapport
Un réseau de neurones nommé "Norman" est étrangement différent des autres types d'intelligence artificielle (IA).
Installé au MIT Media Lab, un laboratoire de recherche qui étudie l'IA et l'apprentissage automatique, le cerveau informatique…

Copyright de l'image MIT Image caption Norman a été nommé d'après Norman Bates d'Alfred Hitchcock dans son film d'horreur classique Psycho
Norman est un algorithme formé pour comprendre les images mais, comme Norman Bates de son homonyme Hi…

Une équipe de scientifiques du Massachusetts Institute of Technology (MIT) a construit une IA psychopathe en utilisant des légendes d'images extraites de Reddit. Oh, et ils l'ont nommé Norman d'après Norman Bates d'Alfred Hitchcock. C'est a…

Dans l'un des grands numéros musicaux de The Life Of Brian, Eric Idle nous rappelle de "toujours regarder le bon côté de la vie". Norman, un nouveau projet d'intelligence artificielle du MIT, ne sait pas comment faire cela.
C'est parce que …

Beaucoup de gens s'inquiètent de la montée potentielle de l'IA maligne, les journaux britanniques, en particulier, s'inquiétant du scénario "Terminator" de machines hostiles à l'humanité.
Des chercheurs du MIT ont décidé d'explorer ce conce…

Les chercheurs en intelligence artificielle ont jusqu'à présent tenté de créer des algorithmes complets qui peuvent être utiles à l'humanité. Cependant, une équipe du MIT a entrepris un projet pour faire exactement le contraire. Des cherche…

J'apprécie ce que le MIT a fait ici. Cependant, le travail décrit dans l'article est inutile, trompeur, ou les deux. Toutes les méthodes d'entraînement que j'ai rencontrées dans la littérature ne maintiennent aucune sorte de mesure de l'inf…

Des scientifiques du Massachusetts Institute of Technology (MIT) ont formé un algorithme d'intelligence artificielle surnommé "Norman" pour devenir un psychopathe en l'exposant uniquement à des images macabres Reddit de morts et de violence…

Le site Web du Massachussets Institute of Technology pour Norman, la première IA psychopathe au monde, est étrangement joyeux et optimiste. Une combinaison effrayante de Norman Bates (du film Psycho d'Alfred Hitchcock de 1960) et d'un robot…

Norman : l'intelligence artificielle du MIT avec des traits psychopathiques L'expérience est basée sur le test de Rorschach de 1921, qui identifie les traits psychopathiques en fonction de la perception des utilisateurs des taches d'encre.
…
La toute nouvelle tentative d'algorithme d'intelligence artificielle des scientifiques du MIT a donné naissance à un "psychopathe" du nom de Norman.
Les scientifiques, Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, ont exposé AI Norman, du …

Laboratoire des médias du MIT
Rencontrez Norman.
Il n'est pas votre IA de tous les jours. Ses algorithmes ne vous aideront pas à filtrer votre flux Facebook ou à vous recommander de nouvelles chansons à écouter sur Spotify.
Non - Norman est…

Norman voit toujours le pire dans les choses.
C'est parce que Norman est un "psychopathe" alimenté par l'intelligence artificielle et développé par le MIT Media Lab.
Norman est un algorithme destiné à montrer à quel point les données derriè…

Pour certains, l'expression "intelligence artificielle" évoque des visions cauchemardesques - quelque chose du film Will Smith de 2004 I, Robot, peut-être, ou la fin d'Ex Machina - comme une botte qui fracasse la vitre d'un écran d'ordinate…

Des chercheurs du MIT ont créé un psychopathe. On l'appelle Normand. C'est un ordinateur. En fait, ce n'est pas vraiment juste. Bien que l'équipe appelle Norman un psychopathe (et le graphique principal effrayant sur leur page d'accueil le …

Photo : Matt Cardy (Getty Images)
Nous avons tous vu des machines maléfiques dans Terminator ou Matrix, mais comment une machine devient-elle maléfique ? Est-ce comme Project Satan de Futurama, où les scientifiques ont combiné des pièces de…

Le MIT a créé une nouvelle IA qui, nous l'espérons sincèrement, ne s'échappera jamais dans la nature, car c'est ainsi que vous obtenez Skynet. Cette IA s'appelle Norman et c'est un psychopathe. Comment Norman est-il devenu psychopathe ? Tou…

Des scientifiques du Massachusetts Institute of Technology ont dévoilé le premier algorithme d'intelligence artificielle formé pour être un psychopathe. L'IA a été à juste titre surnommée "Norman" d'après Norman Bates, le tueur notoire dans…

Partager
La science-fiction nous a donné de nombreux A.I. malveillants emblématiques. personnages. Cependant, ce sont souvent des personnages comme le T-800 de Terminator ou Alien’s Ash qui commettent un meurtre sans émotion pour poursuivre…

Des chercheurs du MIT ont créé une intelligence artificielle qu'ils qualifient de « psychopathe » afin de montrer les biais inhérents à la recherche sur l'IA. Lorsqu'on lui demande de regarder les tests de Rorschach, "Norman" voit toujours …

Le développement de l'intelligence artificielle, a averti Stephen Hawking, sera "soit la meilleure soit la pire chose qui puisse arriver à l'humanité". Un nouvel algorithme d'IA exposé aux coins les plus macabres d'Internet montre comment n…

Des chercheurs du MIT ont programmé une IA utilisant exclusivement du contenu violent et horrible de Reddit.
Ils l'appelaient "Normande".
En conséquence, Norman ne voit que la mort en tout.
Ce n'est pas la première fois qu'une IA est rendue…

Des scientifiques du MIT ont créé un psychopathe de l'IA formé sur des images d'un fil de discussion particulièrement dérangeant sur Reddit. Norman est conçu pour illustrer que les données utilisées pour l'apprentissage automatique peuvent …

L'intelligence artificielle (IA) résout de nombreux problèmes pour les humains. Mais, comme l'a déclaré le PDG de Google, Sundar Pichai, dans le manifeste de l'entreprise pour l'IA, une technologie aussi puissante "soulève des questions tou…

Des chercheurs du MIT ont créé "Norman", la première intelligence artificielle psychopathique à expliquer comment les algorithmes sont fabriqués et à sensibiliser les gens aux dangers potentiels de l'IA
Non, ce n'est pas un nouveau film d'h…

Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT
Rencontrez Norman - la première "intelligence artificielle psychopathique" au monde dévoilée par le MIT
Il partage son nom avec le tueur…
:quality(75)/curiosity-data.s3.amazonaws.com/images/content/thumbnail/standard/985a1b65-500f-494b-ab28-37f59817a71b.png)
Cette expérience avec Norman montre que peu importe la rigueur de l'algorithme réel s'il est surexposé à un contenu préjudiciable. Les algorithmes comme la pymétrie ont en fait un effet bénéfique, mais il est essentiel qu'il soit surveillé …

Vous pouvez apprendre beaucoup d'un psychopathe, et vous n'avez même pas besoin de regarder "Mindhunter" de Netflix pour le faire. Vous avez juste besoin d'étudier Norman, le psychopathe de l'intelligence artificielle qui porte bien son nom…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents