Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 128

Incidents associés

Incident 1722 Rapports
Inappropriate Gmail Smart Reply Suggestions

Loading...
La réponse intelligente de Gmail brouille la frontière entre les personnes et les marques
dailydot.com · 2018

"Merci de me le faire savoir."

Avez-vous remarqué une légère augmentation de cette phrase apparaissant dans les e-mails, sur les réseaux sociaux et IRL ? Vous arrive-t-il de le dire même s'il y a peut-être un an, vous n'utiliseriez jamais cette expression ? Y a-t-il une nouvelle vague de semi-formalité qui balaie nos communications et infecte nos cerveaux ? Que se passe t-il ici?

La réponse n'est pas une conspiration insidieuse des Illuminati pour rendre le monde plus poli. "Merci de me l'avoir fait savoir" se trouve être l'une des réponses les plus courantes proposées par Google Smart Reply, et par conséquent, il est devenu intégré dans notre vie quotidienne, comme tant d'autres produits proposés par la société.

En novembre 2015, Google a dévoilé Smart Reply, un plug-in qui lit et suggère des réponses aux e-mails. Le plug-in fait de son mieux pour prendre en compte le contenu du message que vous avez reçu et suggérer trois réponses potentielles appropriées.

Les avantages en termes d'efficacité sont évidents. Beaucoup d'entre nous se réveillent avec des boîtes de réception encombrées et passent le reste de nos journées à se diriger vers le zen de la "boîte de réception zéro". Comme tous les types de nirvana, la boîte de réception zéro est un état insaisissable. Malgré tous nos efforts, nous ne retirons jamais tout à fait le dernier courrier de notre bureau numérique avant qu'un autre déluge de correspondance ne tombe en panne sur nos serveurs.

Il serait considéré comme impitoyable, voire cruel, de simplement répondre : « J'ai compris. Merci." à la majeure partie de vos e-mails. Smart Reply, avec ses réponses personnalisées mais concises, offre un moyen de maintenir un minimum de décence humaine tout en préservant votre santé mentale.

Une solution parfaite à un problème unique et moderne ? Pas assez.

Près de trois ans après le début de l'expérience Smart Reply, nous commençons à voir le coût culturel des réponses automatiques. Avec notre série personnalisée de lignes préfabriquées percées dans nos cerveaux, nous commençons tous à ressembler à des marques.

Le nouveau gmail permet d'excellentes conversations enrichissantes.

Ok, merci de me l'avoir fait savoir.

De rien.

Tu es le meilleur!

Mon plaisir! – Lynley Stace (@lynleystace) 26 juin 2018

Cela a du sens en termes d'objectifs de Smart Reply. Pour la plupart des gens, la majorité des e-mails sont liés au travail, et bien que les amis et la famille pardonneront une touche de formalité, être trop lâche au travail a mis fin à de nombreuses carrières. La chose la plus importante que Smart Reply puisse faire est de ne pas vous faire virer.

Cela confirme l'histoire du développement de Smart Reply. Lorsque la technologie a été introduite pour la première fois, Nicola Twilley du New Yorker a écrit un article sur le déploiement du plug-in. Les premiers tests ont montré que la tendance naturelle de Smart Reply était d'être "trop affectueux". "Lorsque les ingénieurs ont inspecté leur modèle", raconte Twilley, "ils ont découvert que chaque fois qu'un e-mail ne donnait pas un signal particulièrement fort quant à la réponse appropriée, la machine couvrait ses paris avec une déclaration d'affection." C'est une réponse très humaine : combien d'hommes, après avoir trop bu, n'ont trouvé que "je t'aime, mec !" expliquer ses sentiments à un copain? Google a vu cela comme un "bug, pas une fonctionnalité" et a ajouté un filtre d'affection à la technologie. Votre e-mail ne dira plus jamais "Je t'aime".

Google sait que notre priorité n°1 en matière d'e-mails est d'éviter l'embarras. Après tout, "Annuler l'envoi" reste l'une des fonctionnalités les plus populaires de Gmail et dès qu'une offre d'emploi importante arrive sur votre bureau, vous feriez bien de purger tous les tweets offensants de votre historique Twitter.

Il est dans l'intérêt de Google de créer un produit qui minimise toute effusion d'émotion qui pourrait être inappropriée. Nous pouvons supposer que l'algorithme qui produit ces réponses automatiques ne contrôle pas seulement l'affection, mais aussi l'humour, la tristesse, la colère, la mélancolie et tout autre sentiment qui vous empêcherait d'être un employé d'or.

Smart Reply essaie de trouver un équilibre entre les réponses adaptées au bureau et le maintien d'un certain niveau de personnalité. Andrew Chamings écrivant au Bold Italic a noté que même si on lui offrait des réponses effusives comme "Bien sûr!" ses amis ont reçu des suggestions plus discrètes comme "je serai là". et "je vais essayer".

Le résultat final est un ensemble de réponses qui sont dans « votre voix », mais qui ne transgressent jamais les limites acceptables de cette voix dans un cadre professionnel. Après plusieurs années de Smart Reply, nous ressemblons tous un peu à une version corporatisée de nous-mêmes.

Nous sommes également à une époque où chaque grande marque a une voix facilement identifiable sur les réseaux sociaux. Tout le monde sur Twitter sait à quoi "ressemble" Denny's et Wendy's. Le compte aujourd'hui disparu @brandsayingbae a relaté les premières années des entreprises Twitter essayant de ressembler à des adolescents cool, et malgré les moqueries constantes des coins les plus sournois de la galerie de cacahuètes, les marques nous parlent, sortent de la musique et même dissident les clients.

Alors que les êtres humains ont tenté d'assainir leur présence publique de peur d'être chassés par James-Gunned de leur gagne-pain, et que les marques ont recherché de plus en plus «d'authenticité», la distance entre la façon dont votre amie Wendy parle et la façon dont les sons de la société Wendy's se rétrécit à la journée.

Trois ans après

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd