Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 17: Inappropriate Gmail Smart Reply Suggestions

Descripción: Google's Gmail Smart Reply tool was over-recommending the response "I love you" in situations where it was deemed innappropriate.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Google, perjudicó a Gmail Users.

Estadísticas de incidentes

ID
17
Cantidad de informes
22
Fecha del Incidente
2015-11-03
Editores
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Specification

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

email text

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

17

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

no

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2017

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

11

Date of Incident Day

The day on which the incident occurred. If a precise date is unavailable, leave blank. Enter in the format of DD
 

03

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

Yes

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

+9
Pronto, la IA de Gmail podría responder a su correo electrónico por usted
Respuesta inteligente de Google: conveniencia sobre la conexión+11
Clasificación de las respuestas inteligentes impulsadas por IA de Gmail
Pronto, la IA de Gmail podría responder a su correo electrónico por usted

Pronto, la IA de Gmail podría responder a su correo electrónico por usted

wired.com

Smart Reply de Google permite que una computadora responda sus correos electrónicos por usted

Smart Reply de Google permite que una computadora responda sus correos electrónicos por usted

popularmechanics.com

Computadora, responda a este correo electrónico: Presentamos Smart Reply en Inbox by Gmail

Computadora, responda a este correo electrónico: Presentamos Smart Reply en Inbox by Gmail

blog.google

Las nuevas respuestas inteligentes de Google Inbox utilizan el aprendizaje automático para acelerar las respuestas de correo electrónico

Las nuevas respuestas inteligentes de Google Inbox utilizan el aprendizaje automático para acelerar las respuestas de correo electrónico

greenbot.com

Google Inbox sugiere respuestas para el correo electrónico entrante

Google Inbox sugiere respuestas para el correo electrónico entrante

techlicious.com

La nueva función de Gmail escanea sus correos electrónicos y sugiere respuestas

La nueva función de Gmail escanea sus correos electrónicos y sugiere respuestas

money.cnn.com

La nueva función de correo electrónico de Google escribirá respuestas por ti

La nueva función de correo electrónico de Google escribirá respuestas por ti

mashable.com

¡La nueva respuesta automática de Google suena genial!

¡La nueva respuesta automática de Google suena genial!

newyorker.com

La IA de respuesta de correo electrónico de Google sigue diciendo que te ama

La IA de respuesta de correo electrónico de Google sigue diciendo que te ama

escapistmagazine.com

Respuesta inteligente de Google: conveniencia sobre la conexión

Respuesta inteligente de Google: conveniencia sobre la conexión

thetechnoskeptic.com

Clasificación de las respuestas inteligentes impulsadas por IA de Gmail

Clasificación de las respuestas inteligentes impulsadas por IA de Gmail

nymag.com

La respuesta inteligente de Gmail desdibuja la línea entre personas y marcas

La respuesta inteligente de Gmail desdibuja la línea entre personas y marcas

dailydot.com

¿Vale la pena leer este artículo? Respuesta sugerida de Gmail: '¡Jaja, gracias!'

¿Vale la pena leer este artículo? Respuesta sugerida de Gmail: '¡Jaja, gracias!'

wsj.com

Los usuarios de Gmail podrán optar por no recibir Respuestas inteligentes en el escritorio

Los usuarios de Gmail podrán optar por no recibir Respuestas inteligentes en el escritorio

engadget.com

¿La respuesta inteligente no es lo suficientemente inteligente? Los usuarios de escritorio de Gmail pronto podrán optar por no participar

¿La respuesta inteligente no es lo suficientemente inteligente? Los usuarios de escritorio de Gmail pronto podrán optar por no participar

digitaltrends.com

Gmail Smart Reply se equivocó con 'Enviado desde mi iPhone'

Gmail Smart Reply se equivocó con 'Enviado desde mi iPhone'

9to5google.com

Neira Jones en Twitter

Neira Jones en Twitter

twitter.com

También puede desactivar las respuestas inteligentes espeluznantes de Gmail en el escritorio, pero todavía no

También puede desactivar las respuestas inteligentes espeluznantes de Gmail en el escritorio, pero todavía no

trustedreviews.com

Google modificó su función de respuesta inteligente porque sugería repetidamente a los usuarios que enviaran 'Te amo'

Google modificó su función de respuesta inteligente porque sugería repetidamente a los usuarios que enviaran 'Te amo'

dailymail.co.uk

Google cambió la respuesta inteligente de Gmail después de que AI siguiera sugiriendo te amo

Google cambió la respuesta inteligente de Gmail después de que AI siguiera sugiriendo te amo

businessinsider.com

Redacción inteligente de Gmail: ¿cambiará la forma en que escribimos correos electrónicos?

Redacción inteligente de Gmail: ¿cambiará la forma en que escribimos correos electrónicos?

qz.com

Google finaliza el soporte para Reply, que agregó respuestas inteligentes a aplicaciones de terceros

Google finaliza el soporte para Reply, que agregó respuestas inteligentes a aplicaciones de terceros

theverge.com

Pronto, la IA de Gmail podría responder a su correo electrónico por usted
wired.com · 2015
Traducido por IA

¿Alguna vez deseó que su teléfono pudiera responder automáticamente a sus mensajes de correo electrónico?

Bueno, Google acaba de presentar una tecnología que al menos se está moviendo en esa dirección. Usando lo que se llama "aprendizaje pr…

Smart Reply de Google permite que una computadora responda sus correos electrónicos por usted
popularmechanics.com · 2015
Traducido por IA

Hace solo unos meses, Google realmente comenzó a mostrar su arma secreta más nueva: un cerebro robótico que aprende. Mediante el uso de algoritmos de aprendizaje automático que en realidad se vuelven más inteligentes a medida que practican,…

Computadora, responda a este correo electrónico: Presentamos Smart Reply en Inbox by Gmail
blog.google · 2015
Traducido por IA

En realidad, están sucediendo muchas cosas detrás de escena para que Smart Reply funcione. Inbox utiliza el aprendizaje automático para reconocer los correos electrónicos que necesitan respuestas y generar las respuestas en lenguaje natural…

Las nuevas respuestas inteligentes de Google Inbox utilizan el aprendizaje automático para acelerar las respuestas de correo electrónico
greenbot.com · 2015
Traducido por IA

No todos los correos electrónicos merecen una respuesta artesanal. A veces, todo lo que se necesita es una oración para responder la pregunta candente que alguien ha dejado en su bandeja de entrada, razón por la cual Google está utilizando …

Google Inbox sugiere respuestas para el correo electrónico entrante
techlicious.com · 2015
Traducido por IA

Responder a las solicitudes de correo electrónico de rutina ahora es más fácil con una nueva función de respuesta inteligente para los usuarios de Gmail que reciben su correo electrónico a través de Google Inbox. A partir de esta semana, la…

La nueva función de Gmail escanea sus correos electrónicos y sugiere respuestas
money.cnn.com · 2015
Traducido por IA

Google pronto escaneará el contenido de sus correos electrónicos y ofrecerá lo que cree que es la respuesta perfecta.

La nueva característica, llamada Smart Reply, identifica los correos electrónicos de Gmail que requieren una respuesta y p…

La nueva función de correo electrónico de Google escribirá respuestas por ti
mashable.com · 2015
Traducido por IA

Cuando Google lanzó Inbox, su aplicación de correo electrónico más reciente del equipo de Gmail, promocionó la capacidad de la aplicación para actuar casi como un asistente. Ahora, un año después, Google está haciendo que la aplicación sea …

¡La nueva respuesta automática de Google suena genial!
newyorker.com · 2015
Traducido por IA

El 1 de abril de 2009, Google presentó Gmail Autopilot, un complemento que prometía leer y generar respuestas contextualmente relevantes a los mensajes que se acumulaban en las bandejas de entrada de los usuarios. “A medida que se realizan …

La IA de respuesta de correo electrónico de Google sigue diciendo que te ama
escapistmagazine.com · 2015
Traducido por IA

Un sistema diseñado por Google para responder correos electrónicos resultó un poco más amigable de lo que nadie esperaba.

Hay bastantes humanos por ahí que están absolutamente convencidos de que los robots nos matarán en el momento en que s…

Respuesta inteligente de Google: conveniencia sobre la conexión
thetechnoskeptic.com · 2017
Traducido por IA

Si usa los productos de Google para el correo electrónico, es posible que haya notado esas respuestas sugeridas en la parte inferior de la bandeja de entrada de su dispositivo móvil. Estos brindan a los usuarios opciones para elegir respues…

Clasificación de las respuestas inteligentes impulsadas por IA de Gmail
nymag.com · 2018
Traducido por IA

Imagen: Google: Foto: Konstantin Sergeyev

La característica más reconocible del rediseño recientemente implementado de Gmail es la llamada respuesta inteligente, en la que los bots ofrecen tres respuestas con un solo clic para cada mensaje …

La respuesta inteligente de Gmail desdibuja la línea entre personas y marcas
dailydot.com · 2018
Traducido por IA

"Gracias por hacérmelo saber."

¿Ha notado un aumento en esta frase que aparece en correos electrónicos, en las redes sociales y en la vida real? ¿Te encuentras diciéndolo a pesar de que tal vez hace un año nunca usarías la frase? ¿Hay una n…

¿Vale la pena leer este artículo? Respuesta sugerida de Gmail: '¡Jaja, gracias!'
wsj.com · 2018
Traducido por IA

Cuando Jess Klein le envió un correo electrónico a su madre para hacer planes, la respuesta la sobresaltó.

"Genial, nos vemos allí".

La Sra. Klein, una mujer de 38 años de Brooklyn, sospechaba. “¿Por qué mi mamá habla como una chica del val…

Los usuarios de Gmail podrán optar por no recibir Respuestas inteligentes en el escritorio
engadget.com · 2018
Traducido por IA

Alrededor del 10 por ciento de las respuestas de Gmail ahora se generan con la función de respuesta inteligente, según el Wall Street Journal, y ha estado disponible en las aplicaciones de Gmail desde el año pasado. Ajit Varma, director de …

¿La respuesta inteligente no es lo suficientemente inteligente? Los usuarios de escritorio de Gmail pronto podrán optar por no participar
digitaltrends.com · 2018
Traducido por IA

Después de que los usuarios se quejaron de que la respuesta inteligente de Gmail no era tan inteligente, Google anunció que pronto les dará a los usuarios de escritorio la posibilidad de desactivar la función basada en IA. Aunque la función…

Gmail Smart Reply se equivocó con 'Enviado desde mi iPhone'
9to5google.com · 2018
Traducido por IA

The Wall Street Journal se publica hoy con una breve historia sobre el lanzamiento y la recepción de la nueva función Smart Reply de Gmail, y viene con algunos datos interesantes y anécdotas de usuarios aleatorios y de Google por igual, una…

Neira Jones en Twitter
twitter.com · 2018
Traducido por IA

IA romántica: Google tuvo que cambiar las nuevas respuestas de respuesta inteligente de Gmail porque seguía sugiriendo "Te amo"

También puede desactivar las respuestas inteligentes espeluznantes de Gmail en el escritorio, pero todavía no
trustedreviews.com · 2018
Traducido por IA

¿Qué opinas de la nueva herramienta Respuesta inteligente de Gmail? Estamos escuchando informes mixtos. Por un lado, es muy útil poder tocar/hacer clic en "¡Muchas gracias!" botón cuando tengas prisa.

Sin embargo, los usuarios informan que …

Google modificó su función de respuesta inteligente porque sugería repetidamente a los usuarios que enviaran 'Te amo'
dailymail.co.uk · 2018
Traducido por IA

Recientemente, Google puso a disposición de los más de mil millones de usuarios de Gmail su práctica función 'Smart Reply'.

Pero los primeros prototipos de la herramienta no funcionaron tan bien, según el Wall Street Journal.

En un caso, lo…

Google cambió la respuesta inteligente de Gmail después de que AI siguiera sugiriendo te amo
businessinsider.com · 2018
Traducido por IA

Hace unos días, recibí un correo electrónico breve y efectivo en mi bandeja de entrada: "¡Suena bien!"

Tuve que hacer una pausa. Aunque esa era la respuesta que quería, estaba organizando una reunión, me preguntaba: ¿realmente envió eso, o …

Redacción inteligente de Gmail: ¿cambiará la forma en que escribimos correos electrónicos?
qz.com · 2018
Traducido por IA

De: Corinne Purtill (Cuarzo)

Para: Corinne Purtill (Gmail)

lun., 1 oct. 2018 a las 11:08

En su conferencia anual de desarrolladores a principios de este año, Google presentó la "redacción inteligente", una nueva función de Gmail que ayuda a…

Google finaliza el soporte para Reply, que agregó respuestas inteligentes a aplicaciones de terceros
theverge.com · 2018
Traducido por IA

Google dejará de brindar soporte para Reply, una aplicación experimental que ofrece respuestas inteligentes a varias aplicaciones de mensajería, como Slack, Hangouts y Messenger. La aplicación se lanzó a principios de este año como parte de…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

Feb 2017 · 9 informes
Nest Smoke Alarm Erroneously Stops Alarming

Google's Nest Stops Selling Its Smart Smoke Alarm For Now Due To Faulty Feature

Jan 2014 · 6 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

Feb 2017 · 9 informes
Nest Smoke Alarm Erroneously Stops Alarming

Google's Nest Stops Selling Its Smart Smoke Alarm For Now Due To Faulty Feature

Jan 2014 · 6 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df