Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 55: Alexa Plays Pornography Instead of Kids Song

Descripción: An Amazon Echo Dot using the Amazon Alex software started to play pornographic results when a child asked it to play a song.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Amazon, perjudicó a Children.

Estadísticas de incidentes

ID
55
Cantidad de informes
16
Fecha del Incidente
2016-12-30
Editores
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Robustness, Assurance

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Consumer device

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

Voice commands

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

55

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

Alexa produced inappropriate response/content for child user.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2016

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

12

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

No

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.2. Exposure to toxic content

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

+13
Kid obtiene Amazon Echo Dot Alexa para jugar porno
Alexa de Amazon Echo se está convirtiendo en una mala influencia para nuestros hijosCómo hacer que Alexa de Amazon sea un poco más amigable para los niñosAlexa falla: cuando los asistentes virtuales van muy, muy mal
Kid obtiene Amazon Echo Dot Alexa para jugar porno

Kid obtiene Amazon Echo Dot Alexa para jugar porno

nymag.com

Alexa de Amazon malinterpreta la solicitud del niño y recita frases PORNOGRÁFICAS

Alexa de Amazon malinterpreta la solicitud del niño y recita frases PORNOGRÁFICAS

dailymail.co.uk

Impactante momento en que Alexa de Amazon comienza a enviar mensajes pornográficos crudos a un niño pequeño

Impactante momento en que Alexa de Amazon comienza a enviar mensajes pornográficos crudos a un niño pequeño

thesun.co.uk

Amazon Alexa llega a la lista traviesa con NSFW Diatriba frente a un niño

Amazon Alexa llega a la lista traviesa con NSFW Diatriba frente a un niño

itechpost.com

Alexa tiene una respuesta muy explícita a la solicitud de canción aparentemente inocente de un niño pequeño

Alexa tiene una respuesta muy explícita a la solicitud de canción aparentemente inocente de un niño pequeño

consumerist.com

Niño le pide a Alexa de Amazon que reproduzca algo, pero obtiene porno en su lugar

Niño le pide a Alexa de Amazon que reproduzca algo, pero obtiene porno en su lugar

cinemablend.com

Niño le pide una canción a un asistente digital y recibe porno como respuesta

Niño le pide una canción a un asistente digital y recibe porno como respuesta

huffingtonpost.com.au

¡Vaya, Alexa reproduce porno en lugar de una canción infantil!

¡Vaya, Alexa reproduce porno en lugar de una canción infantil!

entrepreneur.com

Niño pide canción de Amazon Alexa, pero recibe porno en su lugar

Niño pide canción de Amazon Alexa, pero recibe porno en su lugar

10news.com

¿Qué es lo que el niño en el video de Alexa pide escuchar antes de que Alexa se vuelva loca? [VIDEO]

¿Qué es lo que el niño en el video de Alexa pide escuchar antes de que Alexa se vuelva loca? [VIDEO]

wkdq.com

Mejor mira lo que le dices a Amazon Echo Dot: un niño pequeño recibió un montón de frases porno vulgares

Mejor mira lo que le dices a Amazon Echo Dot: un niño pequeño recibió un montón de frases porno vulgares

lifesitenews.com

Fails y Facepalms con Alexa de Amazon: no dejes que los niños se acerquen a esa cosa

Fails y Facepalms con Alexa de Amazon: no dejes que los niños se acerquen a esa cosa

inquisitr.com

'Alexa, ordena tu vida': cuando Amazon Echo se vuelve rebelde

'Alexa, ordena tu vida': cuando Amazon Echo se vuelve rebelde

theguardian.com

Alexa de Amazon Echo se está convirtiendo en una mala influencia para nuestros hijos

Alexa de Amazon Echo se está convirtiendo en una mala influencia para nuestros hijos

sheknows.com

Cómo hacer que Alexa de Amazon sea un poco más amigable para los niños

Cómo hacer que Alexa de Amazon sea un poco más amigable para los niños

digitaltrends.com

Alexa falla: cuando los asistentes virtuales van muy, muy mal

Alexa falla: cuando los asistentes virtuales van muy, muy mal

verdict.co.uk

Kid obtiene Amazon Echo Dot Alexa para jugar porno
nymag.com · 2016
Traducido por IA

Después de abrir un nuevo Amazon Echo Dot para Navidad, una familia recibió una … sorpresa interesante cuando su hijo se acercó sigilosamente al dispositivo para pedirle que reprodujera una canción sosteniendo al pequeño robot con ambas man…

Alexa de Amazon malinterpreta la solicitud del niño y recita frases PORNOGRÁFICAS
dailymail.co.uk · 2016
Traducido por IA

Un niño pequeño obtuvo más de lo que esperaba cuando le pidió al nuevo Amazon Echo Dot de su familia que le pusiera algunas de sus canciones favoritas para niños.

Un divertido video de YouTube muestra a un niño llamado William sosteniendo e…

Impactante momento en que Alexa de Amazon comienza a enviar mensajes pornográficos crudos a un niño pequeño
thesun.co.uk · 2016
Traducido por IA

Ha surgido un video impactante que muestra a Alexa de Amazon bombardeando a un niño pequeño con crudos mensajes pornográficos.

Las imágenes muestran a un niño pequeño hablando en un dispositivo Amazon Echo Dot mientras los miembros de la fa…

Amazon Alexa llega a la lista traviesa con NSFW Diatriba frente a un niño
itechpost.com · 2016
Traducido por IA

Amazon Alexa llega a la lista traviesa con NSFW Diatriba frente a un niño

Cerca

Todo lo que quería era escuchar una canción infantil.

Un video de YouTube publicado el 29 de diciembre pasado se ha vuelto viral con 1,2 millones de visitas al …

Alexa tiene una respuesta muy explícita a la solicitud de canción aparentemente inocente de un niño pequeño
consumerist.com · 2016
Traducido por IA

En lo que podría ser un error inocente o una trampa de adultos sabios, la asistente virtual de Amazon, Alexa, le dio a un niño pequeño una respuesta muy interesante a su solicitud de escuchar una canción específica.

"Alexa, toca 'Digger, Di…

Niño le pide a Alexa de Amazon que reproduzca algo, pero obtiene porno en su lugar
cinemablend.com · 2017
Traducido por IA

Un niño le pide a Amazon Alexa que juegue algo, pero obtiene porno en su lugar Corey Chichizola Random Article Blend No hay mejor época que la Navidad para los niños. Esencialmente ganando la lotería cada año, es una alegría ver a los niños…

Niño le pide una canción a un asistente digital y recibe porno como respuesta
huffingtonpost.com.au · 2017
Traducido por IA

Una familia recibió una desagradable sorpresa cuando su hijo pequeño le pidió a la asistente digital de Amazon, 'Alexa', que reprodujera algunas de sus canciones favoritas, y el dispositivo le ofreció sugerencias de pornografía en lugar de …

¡Vaya, Alexa reproduce porno en lugar de una canción infantil!
entrepreneur.com · 2017
Traducido por IA

En este video NSFW, Amazon puso la "X" en Alexa cuando un niño le pidió que reprodujera su canción favorita. (Querrán usar auriculares para este, amigos).

3 de enero de 2017 1 min de lectura

La descripción de este video de YouTube publicado…

Niño pide canción de Amazon Alexa, pero recibe porno en su lugar
10news.com · 2017
Traducido por IA

Un video publicado la semana pasada por el usuario de YouTube "F0t0b0y" ha sido visto más de 7 millones de veces y muestra a un niño pequeño que solicita una canción de un dispositivo de Amazon solo para obtener una respuesta obscena del di…

¿Qué es lo que el niño en el video de Alexa pide escuchar antes de que Alexa se vuelva loca? [VIDEO]
wkdq.com · 2017
Traducido por IA

Si no has visto el video más divertido que salió el mes pasado, debes estar viviendo debajo de una roca. ¡Este video muestra a un niño pequeño que le pide a Alexa que toque una canción, y Alexa se vuelve rebelde y comienza a hacerle algunas…

Mejor mira lo que le dices a Amazon Echo Dot: un niño pequeño recibió un montón de frases porno vulgares
lifesitenews.com · 2017
Traducido por IA

NoticiasPornografía

SEATTLE, Washington, 6 de enero de 2017 (LifeSiteNews) — Echo Dot de Amazon es un pequeño dispositivo de comando de voz que responde preguntas, reproduce música y sonidos, y básicamente funciona como una enciclopedia par…

Fails y Facepalms con Alexa de Amazon: no dejes que los niños se acerquen a esa cosa
inquisitr.com · 2017
Traducido por IA

Entonces, ¿pensaste que la IA es genial? ¿Entonces pensaste que podrías hacer que Alexa vigile a tu hijo? Espere hasta que la IA comience a decir palabrotas y a comprar juguetes caros para su hijo.

CES 2017 fue una ráfaga de tecnología loca…

'Alexa, ordena tu vida': cuando Amazon Echo se vuelve rebelde
theguardian.com · 2017
Traducido por IA

Aparentemente, Amazon Echo siempre está listo, siempre escuchando y cada vez más inteligente. Así va la perorata sobre el elegante altavoz negro controlado por voz, el producto más vendido de Amazon en Navidad, con millones vendidos ahora e…

Alexa de Amazon Echo se está convirtiendo en una mala influencia para nuestros hijos
sheknows.com · 2017
Traducido por IA

No podemos mantener a nuestros hijos alejados de nuestros dispositivos, y el nuevo Amazon Echo, el producto más vendido del gigante minorista en línea durante la Navidad, no es una excepción.

Si aún no lo sabe, Amazon Echo, ahora en millone…

Cómo hacer que Alexa de Amazon sea un poco más amigable para los niños
digitaltrends.com · 2017
Traducido por IA

Cuota

De las innumerables descripciones que se aplican al sistema de "hogar inteligente" Alexa de Amazon, sus creadores probablemente no esperaban la frase "pesadilla de los padres". Sin embargo, esa descripción ha surgido una y otra vez a …

Alexa falla: cuando los asistentes virtuales van muy, muy mal
verdict.co.uk · 2017
Traducido por IA

Luke es el editor adjunto de Veredicto. Puede comunicarse con él en luke.christou@verdict.co.uk

Se supone que los asistentes virtuales, como Amazon Alexa y Siri de Apple, harán nuestras vidas ocupadas un poco más fáciles.

En lugar de perder…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Amazon Alexa Responding to Environmental Inputs

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Dec 2015 · 35 informes
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Criticized for ‘Inappropriate Content’

May 2015 · 14 informes
Amazon Alexa Plays Loud Music when Owner is Away

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Nov 2017 · 4 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Amazon Alexa Responding to Environmental Inputs

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Dec 2015 · 35 informes
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Criticized for ‘Inappropriate Content’

May 2015 · 14 informes
Amazon Alexa Plays Loud Music when Owner is Away

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Nov 2017 · 4 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df