Incident 41: Toutes les légendes d'images produites sont violentes
Entités
Voir toutes les entitésClassifications de taxonomie CSETv0
Détails de la taxonomieProblem Nature
Unknown/unclear
Physical System
Software only
Level of Autonomy
High
Nature of End User
Expert
Public Sector Deployment
No
Data Inputs
Violent content from Reddit for the Norman algorithm, MSCOCO dataset for the control algorithm.
Classifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
41
Risk Subdomain
7.3. Lack of capability or robustness
Risk Domain
- AI system safety, failures, and limitations
Entity
Human
Timing
Pre-deployment
Intent
Intentional
Rapports d'incidents
Chronologie du rapport
Un réseau de neurones nommé "Norman" est étrangement différent des autres types d'intelligence artificielle (IA).
Installé au MIT Media Lab, un laboratoire de recherche qui étudie l'IA et l'apprentissage automatique, le cerveau informatique…

Copyright de l'image MIT Image caption Norman a été nommé d'après Norman Bates d'Alfred Hitchcock dans son film d'horreur classique Psycho
Norman est un algorithme formé pour comprendre les images mais, comme Norman Bates de son homonyme Hi…

Une équipe de scientifiques du Massachusetts Institute of Technology (MIT) a construit une IA psychopathe en utilisant des légendes d'images extraites de Reddit. Oh, et ils l'ont nommé Norman d'après Norman Bates d'Alfred Hitchcock. C'est a…

Dans l'un des grands numéros musicaux de The Life Of Brian, Eric Idle nous rappelle de "toujours regarder le bon côté de la vie". Norman, un nouveau projet d'intelligence artificielle du MIT, ne sait pas comment faire cela.
C'est parce que …

Beaucoup de gens s'inquiètent de la montée potentielle de l'IA maligne, les journaux britanniques, en particulier, s'inquiétant du scénario "Terminator" de machines hostiles à l'humanité.
Des chercheurs du MIT ont décidé d'explorer ce conce…

Les chercheurs en intelligence artificielle ont jusqu'à présent tenté de créer des algorithmes complets qui peuvent être utiles à l'humanité. Cependant, une équipe du MIT a entrepris un projet pour faire exactement le contraire. Des cherche…

J'apprécie ce que le MIT a fait ici. Cependant, le travail décrit dans l'article est inutile, trompeur, ou les deux. Toutes les méthodes d'entraînement que j'ai rencontrées dans la littérature ne maintiennent aucune sorte de mesure de l'inf…

Des scientifiques du Massachusetts Institute of Technology (MIT) ont formé un algorithme d'intelligence artificielle surnommé "Norman" pour devenir un psychopathe en l'exposant uniquement à des images macabres Reddit de morts et de violence…

Le site Web du Massachussets Institute of Technology pour Norman, la première IA psychopathe au monde, est étrangement joyeux et optimiste. Une combinaison effrayante de Norman Bates (du film Psycho d'Alfred Hitchcock de 1960) et d'un robot…

Norman : l'intelligence artificielle du MIT avec des traits psychopathiques L'expérience est basée sur le test de Rorschach de 1921, qui identifie les traits psychopathiques en fonction de la perception des utilisateurs des taches d'encre.
…
Laboratoire des médias du MIT
Rencontrez Norman.
Il n'est pas votre IA de tous les jours. Ses algorithmes ne vous aideront pas à filtrer votre flux Facebook ou à vous recommander de nouvelles chansons à écouter sur Spotify.
Non - Norman est…

La toute nouvelle tentative d'algorithme d'intelligence artificielle des scientifiques du MIT a donné naissance à un "psychopathe" du nom de Norman.
Les scientifiques, Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, ont exposé AI Norman, du …

Norman voit toujours le pire dans les choses.
C'est parce que Norman est un "psychopathe" alimenté par l'intelligence artificielle et développé par le MIT Media Lab.
Norman est un algorithme destiné à montrer à quel point les données derriè…

Pour certains, l'expression "intelligence artificielle" évoque des visions cauchemardesques - quelque chose du film Will Smith de 2004 I, Robot, peut-être, ou la fin d'Ex Machina - comme une botte qui fracasse la vitre d'un écran d'ordinate…

Des chercheurs du MIT ont créé un psychopathe. On l'appelle Normand. C'est un ordinateur. En fait, ce n'est pas vraiment juste. Bien que l'équipe appelle Norman un psychopathe (et le graphique principal effrayant sur leur page d'accueil le …

Photo : Matt Cardy (Getty Images)
Nous avons tous vu des machines maléfiques dans Terminator ou Matrix, mais comment une machine devient-elle maléfique ? Est-ce comme Project Satan de Futurama, où les scientifiques ont combiné des pièces de…

Le MIT a créé une nouvelle IA qui, nous l'espérons sincèrement, ne s'échappera jamais dans la nature, car c'est ainsi que vous obtenez Skynet. Cette IA s'appelle Norman et c'est un psychopathe. Comment Norman est-il devenu psychopathe ? Tou…