Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 46: Nest Smoke Alarm Erroneously Stops Alarming

Descripción: In testing, Google Nest engineers demonstrated that the Nest Wave feature of their Nest Protect: Smoke + CO Alarm could inadvertently silence genuine alarms.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Nest Labs, perjudicó a Fire Victims.

Estadísticas de incidentes

ID
46
Cantidad de informes
6
Fecha del Incidente
2014-01-21
Editores
Sean McGregor
Applied Taxonomies
CSETv0, GMF, CSETv1, MIT

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Robustness

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Consumer device

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

Medium

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

Motion sensor data

Clasificaciones de la Taxonomía GMF

Detalles de la Taxonomía

Known AI Goal Snippets

One or more snippets that justify the classification.
 

(Snippet Text: One user even reported the alarm stubbornly going off for 30 minutes in the middle of the night with no sign of smoke and ignoring prompts to dismiss the alarm after an apparent glitch in the device…, Related Classifications: Substance Detection, Smart Devices)

Known AI Technology Snippets

One or more snippets that justify the classification.
 

(Snippet Text: It’s pretty easy to silence a false alarm, but the chirp because of a failed device cannot be silenced and it happened right before bed., Related Classifications: Gesture Recognition)

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

46

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

+1
¿La alarma contra incendios Nest Protect genera falsas alarmas para los usuarios?
+1
Nest de Google deja de vender su detector de humo inteligente por ahora debido a una función defectuosa
+1
Nest está retirando su detector de humo (pero no devuelvas el tuyo)
Nest Labs retira del mercado para reparar detectores de humo de CO Nest Protect
¿La alarma contra incendios Nest Protect genera falsas alarmas para los usuarios?

¿La alarma contra incendios Nest Protect genera falsas alarmas para los usuarios?

9to5mac.com

Nest de Google deja de vender su detector de humo inteligente por ahora debido a una función defectuosa

Nest de Google deja de vender su detector de humo inteligente por ahora debido a una función defectuosa

forbes.com

Por qué la falla del detector de humo de Nest es en realidad una victoria para todos

Por qué la falla del detector de humo de Nest es en realidad una victoria para todos

readwrite.com

Nest está retirando su detector de humo (pero no devuelvas el tuyo)

Nest está retirando su detector de humo (pero no devuelvas el tuyo)

time.com

Cuando falla el IOT: Nest retira del mercado más de 400 000 detectores de humo

Cuando falla el IOT: Nest retira del mercado más de 400 000 detectores de humo

forbes.com

Nest Labs retira del mercado para reparar detectores de humo de CO Nest Protect

Nest Labs retira del mercado para reparar detectores de humo de CO Nest Protect

cpsc.gov

¿La alarma contra incendios Nest Protect genera falsas alarmas para los usuarios?
9to5mac.com · 2014
Traducido por IA

A fines de septiembre pasado, se rumoreaba que un detector inteligente de humo/monóxido de carbono se uniría a la línea de termostatos inteligentes Nest, ahora propiedad de Google, y luego se anunció a principios de octubre con una gran res…

Nest de Google deja de vender su detector de humo inteligente por ahora debido a una función defectuosa
forbes.com · 2014
Traducido por IA

Una de las características interesantes que introdujo la alarma de humo inteligente de Nest, Nest Protect, fue la capacidad de los usuarios de mover la mano para apagar una alarma de humo defectuosa. Resulta que no funciona tan caliente.

En…

Por qué la falla del detector de humo de Nest es en realidad una victoria para todos
readwrite.com · 2014
Traducido por IA

ReadWriteHome es una serie continua que explora las implicaciones de vivir en hogares conectados.

La repentina decisión de Nest Labs el jueves de detener las ventas de sus detectores inteligentes de humo y monóxido de carbono sorprendió a l…

Nest está retirando su detector de humo (pero no devuelvas el tuyo)
time.com · 2014
Traducido por IA

Nest Labs, una empresa recién comprada por Google que brinda estilo e inteligencia web a los dispositivos domésticos comunes, está retirando del mercado Nest Protect, un detector de humo y monóxido de carbono, debido a la preocupación de qu…

Cuando falla el IOT: Nest retira del mercado más de 400 000 detectores de humo
forbes.com · 2014
Traducido por IA

Nest, la compañía de sensores y controles inteligentes adquirida recientemente por Google por $ 3,2 mil millones en efectivo, acaba de anunciar oficialmente un retiro masivo de 440,000 detectores de humo y CO Nest Protect debido a la posibi…

Nest Labs retira del mercado para reparar detectores de humo de CO Nest Protect
cpsc.gov · 2016
Traducido por IA

Recurso:

La reparación es una actualización electrónica automática que desactiva la función Nest Wave y se envía automáticamente a los dispositivos conectados de forma inalámbrica a Internet y vinculados a una cuenta de Nest. Los consumidor…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Amazon Alexa Responding to Environmental Inputs

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Dec 2015 · 35 informes
Inappropriate Gmail Smart Reply Suggestions

Computer, respond to this email: Introducing Smart Reply in Inbox by Gmail

Nov 2015 · 22 informes
Identical Twins Can Open Apple FaceID Protected Devices

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Sep 2017 · 21 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Amazon Alexa Responding to Environmental Inputs

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Dec 2015 · 35 informes
Inappropriate Gmail Smart Reply Suggestions

Computer, respond to this email: Introducing Smart Reply in Inbox by Gmail

Nov 2015 · 22 informes
Identical Twins Can Open Apple FaceID Protected Devices

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Sep 2017 · 21 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df