Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 17: Inappropriate Gmail Smart Reply Suggestions

Description: Google's Gmail Smart Reply tool was over-recommending the response "I love you" in situations where it was deemed innappropriate.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Google, a endommagé Gmail Users.

Statistiques d'incidents

ID
17
Nombre de rapports
22
Date de l'incident
2015-11-03
Editeurs
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Classifications de taxonomie CSETv0

Détails de la taxonomie

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Specification

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

email text

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

17

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

no

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2017

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

11

Date of Incident Day

The day on which the incident occurred. If a precise date is unavailable, leave blank. Enter in the format of DD
 

03

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

Yes

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

+9
Bientôt, l'IA de Gmail pourrait répondre à votre e-mail pour vous
Smart Reply de Google : plus de commodité que de connexion+11
Classement des réponses intelligentes alimentées par l'IA de Gmail
Bientôt, l'IA de Gmail pourrait répondre à votre e-mail pour vous

Bientôt, l'IA de Gmail pourrait répondre à votre e-mail pour vous

wired.com

La réponse intelligente de Google permet à un ordinateur de répondre à vos e-mails pour vous

La réponse intelligente de Google permet à un ordinateur de répondre à vos e-mails pour vous

popularmechanics.com

Ordinateur, répondez à cet e-mail : Présentation de la réponse intelligente dans la boîte de réception de Gmail

Ordinateur, répondez à cet e-mail : Présentation de la réponse intelligente dans la boîte de réception de Gmail

blog.google

Les nouvelles réponses intelligentes de Google Inbox utilisent l'apprentissage automatique pour accélérer les réponses aux e-mails

Les nouvelles réponses intelligentes de Google Inbox utilisent l'apprentissage automatique pour accélérer les réponses aux e-mails

greenbot.com

Google Inbox suggère des réponses pour les e-mails entrants

Google Inbox suggère des réponses pour les e-mails entrants

techlicious.com

La nouvelle fonctionnalité Gmail analyse vos e-mails et suggère des réponses

La nouvelle fonctionnalité Gmail analyse vos e-mails et suggère des réponses

money.cnn.com

La nouvelle fonctionnalité de messagerie de Google rédigera des réponses pour vous

La nouvelle fonctionnalité de messagerie de Google rédigera des réponses pour vous

mashable.com

La nouvelle réponse automatique de Google sonne bien !!!!

La nouvelle réponse automatique de Google sonne bien !!!!

newyorker.com

L'IA de réponse aux e-mails de Google continue de dire qu'elle vous aime

L'IA de réponse aux e-mails de Google continue de dire qu'elle vous aime

escapistmagazine.com

Smart Reply de Google : plus de commodité que de connexion

Smart Reply de Google : plus de commodité que de connexion

thetechnoskeptic.com

Classement des réponses intelligentes alimentées par l'IA de Gmail

Classement des réponses intelligentes alimentées par l'IA de Gmail

nymag.com

La réponse intelligente de Gmail brouille la frontière entre les personnes et les marques

La réponse intelligente de Gmail brouille la frontière entre les personnes et les marques

dailydot.com

Cet article vaut-il la peine d'être lu? Réponse suggérée de Gmail : "Haha, merci !"

Cet article vaut-il la peine d'être lu? Réponse suggérée de Gmail : "Haha, merci !"

wsj.com

Les utilisateurs de Gmail pourront désactiver les réponses intelligentes sur ordinateur

Les utilisateurs de Gmail pourront désactiver les réponses intelligentes sur ordinateur

engadget.com

Réponse intelligente pas assez intelligente ? Les utilisateurs de Gmail de bureau pourront bientôt se désabonner

Réponse intelligente pas assez intelligente ? Les utilisateurs de Gmail de bureau pourront bientôt se désabonner

digitaltrends.com

Gmail Smart Reply gaffé avec "Envoyé depuis mon iPhone"

Gmail Smart Reply gaffé avec "Envoyé depuis mon iPhone"

9to5google.com

Neira Jones sur Twitter

Neira Jones sur Twitter

twitter.com

Vous pouvez également désactiver les réponses intelligentes effrayantes de Gmail sur le bureau - mais pas encore

Vous pouvez également désactiver les réponses intelligentes effrayantes de Gmail sur le bureau - mais pas encore

trustedreviews.com

Google a modifié sa fonction de réponse intelligente car elle suggérait à plusieurs reprises aux utilisateurs d'envoyer "Je t'aime"

Google a modifié sa fonction de réponse intelligente car elle suggérait à plusieurs reprises aux utilisateurs d'envoyer "Je t'aime"

dailymail.co.uk

Google a changé la réponse intelligente de Gmail après que l'IA ait continué à suggérer que je t'aime

Google a changé la réponse intelligente de Gmail après que l'IA ait continué à suggérer que je t'aime

businessinsider.com

Gmail smart compose : cela va-t-il changer la façon dont nous écrivons les e-mails ?

Gmail smart compose : cela va-t-il changer la façon dont nous écrivons les e-mails ?

qz.com

Google met fin à la prise en charge de Reply, qui a ajouté des réponses intelligentes aux applications tierces

Google met fin à la prise en charge de Reply, qui a ajouté des réponses intelligentes aux applications tierces

theverge.com

Bientôt, l'IA de Gmail pourrait répondre à votre e-mail pour vous
wired.com · 2015
Traduit par IA

Avez-vous déjà souhaité que votre téléphone puisse répondre automatiquement à vos e-mails ?

Eh bien, Google vient de dévoiler une technologie qui va au moins dans cette direction. En utilisant ce qu'on appelle le "deep learning", une forme …

La réponse intelligente de Google permet à un ordinateur de répondre à vos e-mails pour vous
popularmechanics.com · 2015
Traduit par IA

Il y a quelques mois à peine, Google a vraiment commencé à montrer sa toute nouvelle arme secrète : un cerveau de robot qui apprend. À l'aide d'algorithmes d'apprentissage automatique qui deviennent plus intelligents au fur et à mesure qu'i…

Ordinateur, répondez à cet e-mail : Présentation de la réponse intelligente dans la boîte de réception de Gmail
blog.google · 2015
Traduit par IA

Il se passe en fait beaucoup de choses dans les coulisses pour que Smart Reply fonctionne. Inbox utilise l'apprentissage automatique pour reconnaître les e-mails qui nécessitent des réponses et pour générer les réponses en langage naturel à…

Les nouvelles réponses intelligentes de Google Inbox utilisent l'apprentissage automatique pour accélérer les réponses aux e-mails
greenbot.com · 2015
Traduit par IA

Tous les e-mails ne méritent pas une réponse artisanale. Parfois, il suffit d'une phrase pour répondre à la question brûlante que quelqu'un a déposée dans votre boîte de réception. C'est pourquoi Google utilise la puissance de l'apprentissa…

Google Inbox suggère des réponses pour les e-mails entrants
techlicious.com · 2015
Traduit par IA

Répondre aux demandes d'e-mails de routine est devenu plus facile grâce à une nouvelle fonctionnalité de réponse intelligente pour les utilisateurs de Gmail qui reçoivent leurs e-mails via Google Inbox. À partir de cette semaine, la fonctio…

La nouvelle fonctionnalité Gmail analyse vos e-mails et suggère des réponses
money.cnn.com · 2015
Traduit par IA

Google analysera bientôt le contenu de vos e-mails et fournira ce qu'il pense être la réponse parfaite.

La nouvelle fonctionnalité, appelée Smart Reply, identifie les e-mails Gmail qui nécessitent une réponse et présente trois options de ré…

La nouvelle fonctionnalité de messagerie de Google rédigera des réponses pour vous
mashable.com · 2015
Traduit par IA

Lorsque Google a lancé Inbox, son application de messagerie la plus récente de l'équipe Gmail, il a vanté la capacité de l'application à agir presque comme un assistant. Aujourd'hui, un an plus tard, Google fait de l'application une aide pl…

La nouvelle réponse automatique de Google sonne bien !!!!
newyorker.com · 2015
Traduit par IA

Le 1er avril 2009, Google a dévoilé Gmail Autopilot, un plug-in qui promettait de lire et de générer des réponses contextuellement pertinentes aux messages s'accumulant dans les boîtes de réception des utilisateurs. "Alors que de plus en pl…

L'IA de réponse aux e-mails de Google continue de dire qu'elle vous aime
escapistmagazine.com · 2015
Traduit par IA

Un système conçu par Google pour répondre aux e-mails s'est avéré un peu plus convivial que prévu.

Il y a pas mal d'humains qui sont absolument convaincus que les robots nous tueront dès qu'ils prendront conscience d'eux-mêmes. Mais que se …

Smart Reply de Google : plus de commodité que de connexion
thetechnoskeptic.com · 2017
Traduit par IA

Si vous utilisez les produits Google pour les e-mails, vous avez peut-être remarqué ces réponses suggérées au bas de votre boîte de réception mobile. Celles-ci offrent aux utilisateurs la possibilité de choisir des réponses courtes et rapid…

Classement des réponses intelligentes alimentées par l'IA de Gmail
nymag.com · 2018
Traduit par IA

Image : Google : Photo : Konstantin Sergueïev

La fonctionnalité la plus reconnaissable de la nouvelle conception de Gmail est la soi-disant réponse intelligente, dans laquelle les bots offrent trois réponses en un clic à chaque message élec…

La réponse intelligente de Gmail brouille la frontière entre les personnes et les marques
dailydot.com · 2018
Traduit par IA

"Merci de me le faire savoir."

Avez-vous remarqué une légère augmentation de cette phrase apparaissant dans les e-mails, sur les réseaux sociaux et IRL ? Vous arrive-t-il de le dire même s'il y a peut-être un an, vous n'utiliseriez jamais c…

Cet article vaut-il la peine d'être lu? Réponse suggérée de Gmail : "Haha, merci !"
wsj.com · 2018
Traduit par IA

Lorsque Jess Klein a envoyé un e-mail à sa mère pour faire des plans, la réponse l'a surprise.

"Cool, on se voit là-bas."

Mme Klein, une femme de 38 ans de Brooklyn, était suspecte. « Pourquoi ma mère parle-t-elle comme une fille de la vall…

Les utilisateurs de Gmail pourront désactiver les réponses intelligentes sur ordinateur
engadget.com · 2018
Traduit par IA

Selon le Wall Street Journal, environ 10% des réponses Gmail sont désormais générées avec la fonction Smart Reply, et elle est disponible sur les applications Gmail depuis l'année dernière. Ajit Varma, directeur de la gestion des produits d…

Réponse intelligente pas assez intelligente ? Les utilisateurs de Gmail de bureau pourront bientôt se désabonner
digitaltrends.com · 2018
Traduit par IA

Après que les utilisateurs se sont plaints que la réponse intelligente de Gmail n'était pas si intelligente, Google a annoncé qu'il donnerait bientôt aux utilisateurs de bureau la possibilité de désactiver la fonctionnalité basée sur l'IA. …

Gmail Smart Reply gaffé avec "Envoyé depuis mon iPhone"
9to5google.com · 2018
Traduit par IA

Le Wall Street Journal est sorti aujourd'hui avec une histoire rapide sur le déploiement et la réception de la nouvelle fonctionnalité Smart Reply de Gmail, et il est accompagné de quelques informations intéressantes et d'anecdotes d'utilis…

Neira Jones sur Twitter
twitter.com · 2018
Traduit par IA

IA romantique : Google a dû modifier les nouvelles réponses intelligentes de Gmail, car il n'arrêtait pas de suggérer "Je t'aime"

Vous pouvez également désactiver les réponses intelligentes effrayantes de Gmail sur le bureau - mais pas encore
trustedreviews.com · 2018
Traduit par IA

Que pensez-vous du nouvel outil de réponse intelligente de Gmail ? Nous entendons des rapports mitigés. D'une part, c'est super pratique de pouvoir appuyer/cliquer sur "Merci beaucoup !" bouton lorsque vous êtes pressé.

Cependant, les utili…

Google a modifié sa fonction de réponse intelligente car elle suggérait à plusieurs reprises aux utilisateurs d'envoyer "Je t'aime"
dailymail.co.uk · 2018
Traduit par IA

Google a récemment mis à la disposition des plus d'un milliard d'utilisateurs de Gmail sa fonction pratique de "réponse intelligente".

Mais les premiers prototypes de l'outil ne fonctionnaient pas de manière aussi transparente, selon le Wal…

Google a changé la réponse intelligente de Gmail après que l'IA ait continué à suggérer que je t'aime
businessinsider.com · 2018
Traduit par IA

Il y a quelques jours, j'ai reçu un e-mail court et efficace dans ma boîte de réception : "Ça a l'air bien !"

J'ai dû faire une pause. Bien que ce soit la réponse que je voulais - j'organisais une réunion - je me suis demandé : a-t-il vraim…

Gmail smart compose : cela va-t-il changer la façon dont nous écrivons les e-mails ?
qz.com · 2018
Traduit par IA

De : Corinne Purtill (Quartz)

À : Corinne Purtill (Gmail)

lun. 1 oct. 2018 à 11:08

Lors de sa conférence annuelle des développeurs plus tôt cette année, Google a présenté la "composition intelligente", une nouvelle fonctionnalité Gmail qui …

Google met fin à la prise en charge de Reply, qui a ajouté des réponses intelligentes aux applications tierces
theverge.com · 2018
Traduit par IA

Google ne continuera plus à prendre en charge Reply, une application expérimentale qui offre des réponses de réponse intelligentes à diverses applications de messagerie telles que Slack, Hangouts et Messenger. L'application a été lancée plu…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 rapports
High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

Feb 2017 · 9 rapports
Nest Smoke Alarm Erroneously Stops Alarming

Google's Nest Stops Selling Its Smart Smoke Alarm For Now Due To Faulty Feature

Jan 2014 · 6 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 rapports
High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

Feb 2017 · 9 rapports
Nest Smoke Alarm Erroneously Stops Alarming

Google's Nest Stops Selling Its Smart Smoke Alarm For Now Due To Faulty Feature

Jan 2014 · 6 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df