Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 55: Alexa Plays Pornography Instead of Kids Song

Description: An Amazon Echo Dot using the Amazon Alex software started to play pornographic results when a child asked it to play a song.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Amazon, a endommagé Children.

Statistiques d'incidents

ID
55
Nombre de rapports
16
Date de l'incident
2016-12-30
Editeurs
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Classifications de taxonomie CSETv0

Détails de la taxonomie

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Robustness, Assurance

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Consumer device

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

Voice commands

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

55

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

Alexa produced inappropriate response/content for child user.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2016

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

12

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

No

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.2. Exposure to toxic content

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

+13
Un enfant obtient Amazon Echo Dot Alexa pour jouer au porno
Alexa d'Amazon Echo s'avère avoir une mauvaise influence sur nos enfantsComment rendre Alexa d'Amazon un peu plus adaptée aux enfantsAlexa échoue : quand les assistants virtuels tournent très, très mal
Un enfant obtient Amazon Echo Dot Alexa pour jouer au porno

Un enfant obtient Amazon Echo Dot Alexa pour jouer au porno

nymag.com

Alexa d'Amazon comprend mal la demande du garçon et débite des phrases PORNOGRAPHIQUES

Alexa d'Amazon comprend mal la demande du garçon et débite des phrases PORNOGRAPHIQUES

dailymail.co.uk

Moment choquant Alexa d'Amazon commence à jaillir des messages porno bruts à un tout-petit

Moment choquant Alexa d'Amazon commence à jaillir des messages porno bruts à un tout-petit

thesun.co.uk

Amazon Alexa arrive sur une liste coquine avec NSFW Tirade devant un enfant

Amazon Alexa arrive sur une liste coquine avec NSFW Tirade devant un enfant

itechpost.com

Alexa a une réponse très explicite à la demande de chanson apparemment innocente d'un tout-petit

Alexa a une réponse très explicite à la demande de chanson apparemment innocente d'un tout-petit

consumerist.com

Un enfant demande à Amazon Alexa de jouer quelque chose, obtient du porno à la place

Un enfant demande à Amazon Alexa de jouer quelque chose, obtient du porno à la place

cinemablend.com

Un enfant demande une chanson à un assistant numérique et obtient du porno en réponse

Un enfant demande une chanson à un assistant numérique et obtient du porno en réponse

huffingtonpost.com.au

Oups, Alexa joue du porno au lieu d'une chanson pour enfants !

Oups, Alexa joue du porno au lieu d'une chanson pour enfants !

entrepreneur.com

Un garçon demande une chanson à Amazon Alexa, mais obtient du porno à la place

Un garçon demande une chanson à Amazon Alexa, mais obtient du porno à la place

10news.com

Qu'est-ce que l'enfant dans la vidéo Alexa demande à entendre avant qu'Alexa ne se déchaîne ? [VIDÉO]

Qu'est-ce que l'enfant dans la vidéo Alexa demande à entendre avant qu'Alexa ne se déchaîne ? [VIDÉO]

wkdq.com

Mieux vaut faire attention à ce que vous dites à Amazon Echo Dot : un tout-petit a eu plein de phrases pornographiques vulgaires

Mieux vaut faire attention à ce que vous dites à Amazon Echo Dot : un tout-petit a eu plein de phrases pornographiques vulgaires

lifesitenews.com

Échecs et facepalms avec Alexa d'Amazon : ne laissez pas les enfants s'approcher de cette chose

Échecs et facepalms avec Alexa d'Amazon : ne laissez pas les enfants s'approcher de cette chose

inquisitr.com

"Alexa, trie ta vie" : quand Amazon Echo devient un voyou

"Alexa, trie ta vie" : quand Amazon Echo devient un voyou

theguardian.com

Alexa d'Amazon Echo s'avère avoir une mauvaise influence sur nos enfants

Alexa d'Amazon Echo s'avère avoir une mauvaise influence sur nos enfants

sheknows.com

Comment rendre Alexa d'Amazon un peu plus adaptée aux enfants

Comment rendre Alexa d'Amazon un peu plus adaptée aux enfants

digitaltrends.com

Alexa échoue : quand les assistants virtuels tournent très, très mal

Alexa échoue : quand les assistants virtuels tournent très, très mal

verdict.co.uk

Un enfant obtient Amazon Echo Dot Alexa pour jouer au porno
nymag.com · 2016
Traduit par IA

Après avoir ouvert un nouvel Amazon Echo Dot pour Noël, une famille a eu une… surprise intéressante lorsque leur enfant s'est glissé vers l'appareil pour lui demander de jouer une chanson en tenant le petit robot à deux mains et en criant d…

Alexa d'Amazon comprend mal la demande du garçon et débite des phrases PORNOGRAPHIQUES
dailymail.co.uk · 2016
Traduit par IA

Un petit garçon a obtenu plus que ce qu'il avait négocié lorsqu'il a demandé au nouvel Amazon Echo Dot de sa famille de lui jouer certaines des chansons préférées de son enfant.

Une vidéo hilarante sur YouTube montre un garçon nommé William…

Moment choquant Alexa d'Amazon commence à jaillir des messages porno bruts à un tout-petit
thesun.co.uk · 2016
Traduit par IA

Une vidéo SHOCKING est apparue montrant Alexa d'Amazon bombardant un tout-petit avec des messages pornographiques grossiers.

Des images montrent un petit garçon parlant dans un gadget Amazon Echo Dot sous le regard des membres de la famille…

Amazon Alexa arrive sur une liste coquine avec NSFW Tirade devant un enfant
itechpost.com · 2016
Traduit par IA

Amazon Alexa arrive sur une liste coquine avec NSFW Tirade devant un enfant

proche

Tout ce qu'il voulait, c'était entendre une chanson enfantine.

Une vidéo YouTube publiée le 29 décembre dernier est devenue virale avec 1,2 million de vues à…

Alexa a une réponse très explicite à la demande de chanson apparemment innocente d'un tout-petit
consumerist.com · 2016
Traduit par IA

Dans ce qui pourrait être une erreur innocente ou une mise en place par des adultes sages, l'assistante virtuelle d'Amazon, Alexa, a donné à un tout-petit une réponse très intéressante à sa demande d'entendre une chanson spécifique.

"Alexa,…

Un enfant demande à Amazon Alexa de jouer quelque chose, obtient du porno à la place
cinemablend.com · 2017
Traduit par IA

Un enfant demande à Amazon Alexa de jouer quelque chose, obtient du porno à la place Corey Chichizola Random Article Blend Il n'y a pas de meilleur moment que Noël pour les enfants. Gagner essentiellement à la loterie chaque année, c'est un…

Un enfant demande une chanson à un assistant numérique et obtient du porno en réponse
huffingtonpost.com.au · 2017
Traduit par IA

Une famille a eu une mauvaise surprise lorsque leur petit garçon a demandé à l'assistant numérique d'Amazon "Alexa" de jouer certaines de ses chansons préférées, l'appareil proposant des suggestions de porno au lieu de morceaux.

La vidéo pu…

Oups, Alexa joue du porno au lieu d'une chanson pour enfants !
entrepreneur.com · 2017
Traduit par IA

Dans cette vidéo NSFW, Amazon a mis le "X" dans Alexa lorsqu'un enfant lui a demandé de jouer sa chanson préférée. (Vous aurez envie de porter des écouteurs pour celui-ci, les amis.)

3 janvier 2017 1 min de lecture

La description de cette v…

Un garçon demande une chanson à Amazon Alexa, mais obtient du porno à la place
10news.com · 2017
Traduit par IA

Une vidéo publiée la semaine dernière par l'utilisateur de YouTube "F0t0b0y" a été visionnée plus de 7 millions de fois montrant un tout-petit demandant une chanson à un appareil Amazon uniquement pour obtenir une réponse torride de l'appar…

Qu'est-ce que l'enfant dans la vidéo Alexa demande à entendre avant qu'Alexa ne se déchaîne ? [VIDÉO]
wkdq.com · 2017
Traduit par IA

Si vous n'avez pas vu la vidéo la plus drôle du mois dernier, vous devez vivre sous un rocher. Cette vidéo montre un petit enfant demandant à Alexa de jouer une chanson, et Alexa devient voyou et commence à faire des suggestions très NSFW à…

Mieux vaut faire attention à ce que vous dites à Amazon Echo Dot : un tout-petit a eu plein de phrases pornographiques vulgaires
lifesitenews.com · 2017
Traduit par IA

ActualitésPornographie

SEATTLE, Washington, 6 janvier 2017 (LifeSiteNews) - Amazon's Echo Dot est un petit appareil à commande vocale qui répond aux questions, joue de la musique et des sons, et fonctionne essentiellement comme une encyclop…

Échecs et facepalms avec Alexa d'Amazon : ne laissez pas les enfants s'approcher de cette chose
inquisitr.com · 2017
Traduit par IA

Alors vous pensiez que l'IA est cool ? Alors vous pensiez qu'Alexa pourrait veiller sur votre enfant ? Attendez que l'IA commence à cracher des gros mots et à acheter des jouets coûteux pour votre enfant.

Le CES 2017 a été une vague de tech…

"Alexa, trie ta vie" : quand Amazon Echo devient un voyou
theguardian.com · 2017
Traduit par IA

Amazon Echo est apparemment toujours prêt, toujours à l'écoute et toujours plus intelligent. Ainsi va le discours sur l'élégant haut-parleur noir à commande vocale, le produit le plus vendu d'Amazon à Noël, avec des millions maintenant vend…

Alexa d'Amazon Echo s'avère avoir une mauvaise influence sur nos enfants
sheknows.com · 2017
Traduit par IA

Nous ne pouvons pas éloigner nos enfants de nos gadgets, et le nouvel Amazon Echo, le produit le plus vendu du géant de la vente au détail en ligne à Noël, ne fait pas exception.

Si vous ne le savez pas déjà, Amazon Echo - maintenant dans d…

Comment rendre Alexa d'Amazon un peu plus adaptée aux enfants
digitaltrends.com · 2017
Traduit par IA

Partager

Parmi la myriade de descriptions prélevées sur le système de "maison intelligente" Alexa d'Amazon, ses créateurs ne s'attendaient probablement pas à l'expression "cauchemar parental". Pourtant, cette description est revenue à maint…

Alexa échoue : quand les assistants virtuels tournent très, très mal
verdict.co.uk · 2017
Traduit par IA

Luke est le rédacteur en chef adjoint de Verdict. Vous pouvez le joindre à luke.christou@verdict.co.uk

Les assistants virtuels, tels qu'Amazon Alexa et Siri d'Apple, sont censés faciliter légèrement nos vies occupées.

Plutôt que de perdre d…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Amazon Alexa Responding to Environmental Inputs

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Dec 2015 · 35 rapports
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Criticized for ‘Inappropriate Content’

May 2015 · 14 rapports
Amazon Alexa Plays Loud Music when Owner is Away

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Nov 2017 · 4 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Amazon Alexa Responding to Environmental Inputs

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Dec 2015 · 35 rapports
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Criticized for ‘Inappropriate Content’

May 2015 · 14 rapports
Amazon Alexa Plays Loud Music when Owner is Away

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Nov 2017 · 4 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df