Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1963

Incidents associés

Incident 3124 Rapports
Startup's Accent Translation AI Denounced as Reinforcing Racial Bias

Loading...
La start-up Buzzy Silicon Valley veut rendre le monde plus blanc
sfgate.com · 2022

Silicon Valley startup Sanas a un objectif ambitieux : faire en sorte que les travailleurs des centres d'appels soient blancs et américains, quel que soit le pays ils viennent de. Et ce n'est que le début de leur grand plan.

Le site Web de la société Voice tech présente une photo d'un homme souriant, recadré pour que vous ne voyiez qu'un personnage désincarné et plein de dents sourire. Sous la bouche anonyme, une démo vous invite à « Hear the Magic » de Sanas. Lorsque vous appuyez sur play, vous entendez un côté d'une conversation simulée ; un homme avec un accent indien lit un script de centre d'appels familièrement torturé à propos d'un colis manquant. Cliquez sur le curseur "Avec Sanas", et la voix se transforme instantanément en quelque chose de légèrement robotique, un peu étrange et incontestablement blanc.

Depuis son lancement en août 2021, Sanas a été inondé de financements par des investisseurs. Au milieu d'une période difficile pour l'industrie technologique, la société de «traduction d'accent» – fondée par trois anciens étudiants de Stanford, Maxim Serebryakov, Shawn Zhang et Andrés Pérez Soderi – a décroché un cycle de financement de série A de 32 millions de dollars en juin 2022, qui, selon eux, est le jamais atteint pour un service de technologie vocale. Un communiqué de presse se vante que les investisseurs qui ont essayé le service l'ont qualifié de "magique".

À terme, la société souhaite s'étendre au-delà des centres d'appels en changeant l'accent sur les appels vidéo et audio grand public ; Sanas a même mentionné un intérêt pour le cinéma et la télévision. De nouvelles voix sont également en préparation : un jour, les accents des travailleurs pourraient être « traduits » en un ton traînant du Sud pour un appelant à Louisville, ou en un rythme du Midwest pour quelqu'un à Cleveland, au lieu de l'anglais américain standard plus générique, [familièrement connu en tant que voix de personne blanche] (https://www.youtube.com/watch?v=T5X3cu1B87k).

"Nous ne voulons pas dire que les accents sont un problème parce que vous en avez un", a déclaré le président de Sanas, Marty Sarim, à SFGATE. "Ils ne sont un problème que parce qu'ils causent des préjugés et qu'ils causent des malentendus."

La promesse tacite de Sanas semble être que les appelants seront plus polis – et plus disposés à être aidés – s'ils pensent que la personne à l'autre bout leur ressemble davantage. (Ce n'est pas un nouveau concept ; les employés des centres d'appels en Inde, aux Philippines et ailleurs adoptent déjà des noms américains et sont contraints de développer des accents qui sonneront plus "neutres" pour les Américains.)

Mais il y a un défaut fondamental avec les promesses tacites de Sanas et la logique présentée par Sarim - un investisseur providentiel avec "plus de 25 ans d'expérience dans les centres d'appels" [selon son LinkedIn](https://www.linkedin.com /in/marty-massih-sarim-b70141115). Les accents ne causent pas de biais, ils [déclenchent des biais préexistants](https://www.forbes.com/sites/pragyaagarwaleurope/2018/12/30/bias-is-your-accent-holding-you-back/ ?sh=68fef5151b5a). Ce sectarisme est suralimenté par la dynamique de pouvoir en jeu dans le paysage infernal du service client moderne, où les appelants frustrés sont piégés au téléphone avec des agents qui ont peu d'autorité pour résoudre leurs problèmes, et tout le monde est obligé d'interagir exclusivement à travers des scripts de vallée déshumanisants et étranges. . Tout se passe sous l'œil vigilant de systèmes de surveillance qui font honte à l'État policier moyen.

Et Sanas ne fait pas grand-chose pour remédier à ce paysage infernal ; il met simplement un filtre dessus.

"Un son standard"

Pour acheter ce que vend Sanas, vous devez croire que la solution au harcèlement des personnes avec des accents - employés de centres d'appels internationaux ou autres - est de vous faire mieux comprendre des Américains. Les experts qui ont parlé à SFGATE ont été troublés par l'accent mis par Sanas sur les personnes du Sud global se faisant comprendre des Américains, par opposition aux Américains acceptant d'autres voix accentuées.

Winifred Poster, professeur de sociologie à l'Université de Washington à St. Louis, a effectué des recherches approfondies sur les travailleurs des centres d'appels, y compris la façon dont ils vivent le harcèlement et ce qu'ils essaient de faire pour l'atténuer.

"En surface, cela reflète des difficultés de communication - des personnes incapables de comprendre le discours de quelqu'un d'autre", a-t-elle déclaré à SFGATE. "Mais, vraiment, c'est codé pour tout un tas d'autres problèmes sur la façon dont l'accent déclenche le racisme et l'ethnocentrisme."

Les Américains sont fortement conditionnés, par la radio, la télévision et d'autres médias, à accepter un certain type de voix comme la voix américaine définitive, selon le professeur de littérature comparée de Berkeley, Tom McEnaney, qui a enseigné un cours sur la "voix blanche".

"Nous avons supposé que les modèles de discours qui sont généralement associés à la blancheur aux États-Unis sont un son neutre, un son standard", a-t-il déclaré à SFGATE.

J'ai contacté une cousine, qui travaille dans un centre d'appels de la région métropolitaine de Manille, aux Philippines, pour lui poser des questions sur ses expériences avec des appelants américains aggravés. Elle peut modifier sa voix à la volée pour sonner plus américaine sans l'aide d'aucune technologie, mais elle est toujours confrontée au harcèlement de manière régulière.

"Certains Américains sont racistes et dès qu'ils découvrent que l'agent n'est pas l'un d'entre eux, ils disent à l'agent de parler en anglais en se moquant", m'a-t-elle dit. "Puisqu'ils sont le client, il est important que nous sachions nous adapter."

Une grande partie de la recherche de Poster a porté sur la façon dont les personnes travaillant dans des centres d'appels externalisés vivent le harcèlement et comment ils essaient d'y faire face. Les agents au service des Américains sont fortement encouragés à se blanchir, a-t-elle découvert, notamment en changeant de voix et de noms. Beaucoup font même semblant d'appeler des États-Unis ou du Royaume-Uni. Certaines personnes ont dit à Poster qu'elles habitaient si profondément ces fausses identités qu'elles ont subi une forme grave de dissociation pendant qu'elles étaient au rendez-vous.

"Ils ne reconnaîtraient pas les membres de leur propre famille lorsqu'ils leur parleraient au téléphone", a déclaré Poster. « Ils ne pouvaient pas s'en passer. Cela dérange vraiment votre esprit.

Le harcèlement peut encore être sévère. Un rapport du Guardian de 2011, par exemple, centré sur un employé d'un centre d'appels indien, qui a parlé " avec un twang américanisé torturé » et a constamment répondu à des appelants américains en colère sceptiques quant à ses allées et venues. Dans le récit d'Arnel Murga en 2021 sur son temps en tant que travailleur philippin d'un centre d'appels pour [reste du monde] (https://restofworld.org/2021/call-centers-racism/), toute sa formation de changement de code d'entreprise - allant même jusqu'à changer de nom - l'a laissé mal préparé à faire face à des clients qui le réprimandaient et prétendaient ne pas comprendre son anglais à l'accent américain.

Un service comme Sanas, soutient Poster, n'aiderait probablement pas les travailleurs des centres d'appels, même avec un accent synthétique sans faille. "Cela ne cache pas que l'externalisation existe ou que l'appel n'est probablement pas aux États-Unis", a-t-elle déclaré. "Même si vous avez un nom différent ou un accent différent, ils peuvent toujours le dire."

"Les vrais problèmes de l'externalisation"

Poster soutient que se concentrer sur l'accent "ne résout pas les vrais problèmes de l'externalisation". Même si les voix des travailleurs ne déclenchent pas de harcèlement raciste, ils sont toujours soumis à une culture de surveillance sévère et de peu d'autonomie, conduisant à l'épuisement professionnel et à un stress immense.

"Tout ce qu'ils ont le pouvoir de faire, c'est de lire un script, n'est-ce pas?" Affiche soulignée. "Les clients vont être en colère contre l'entreprise, quel que soit le messager."

Dans ses recherches sur les centres d'appels indiens, la professeure de l'Université de Toronto, Kiran Mirchandani, a découvert que l'hostilité envers les travailleurs reposait sur trois facteurs : l'hostilité à l'égard des emplois américains « volés » par l'externalisation, le fait que « les clients pouvaient exprimer du racisme en toute impunité au téléphone depuis il n'y a pas de lois mondiales empêchant un tel harcèlement », et, surtout, de ne pas être aidé par un représentant du service client « qui pourrait vraiment résoudre leurs problèmes ».

Mirchandani m'a dit que Sanas pourrait même aggraver le racisme envers les travailleurs. "Le racisme envers les clients est susceptible d'augmenter si les travailleurs sont davantage déshumanisés lorsqu'une" application "est placée entre le travailleur et le client, d'autant plus qu'il y aura sans aucun doute des erreurs commises par l'application", a-t-elle déclaré.

Sanas souligne - via son site Web et dans l'interview de SFGATE avec Sarim - qu'elle offre aux travailleurs le choix de désactiver le service en cas de besoin. "Si vous ne voulez plus l'utiliser, vous n'êtes certainement pas obligé de le faire, et en fin de compte, c'est un peu votre choix", m'a dit Sarim.

L'affiche se méfie de cette affirmation. "Il n'y a pratiquement rien dans le processus de travail des centres d'appels qui implique un choix par les travailleurs en termes de technologie", a-t-elle déclaré. Déjà, les travailleurs sont soumis à une surveillance profondément invasive, ce qui rend presque impossible d'avoir une conversation authentique avec des personnes à l'autre bout.

"Vous êtes enregistré puis analysé et vous recevez des alertes sur votre écran lorsque vous parlez trop vite ou trop lentement", a-t-elle ajouté.

Dans un e-mail de suivi adressé à SFGATE, Sarim a confirmé que "l'entreprise [société du centre d'appels] détiendra les droits d'administration" pour contrôler Sanas, invalidant ainsi toute revendication de l'entreprise concernant l'autonomie des travailleurs.

Les travailleurs des centres d'appels reçoivent également peu de formation sur la manière d'aider réellement les clients, ce qui accroît la frustration des clients et augmente la probabilité d'interactions abusives. De nombreuses études ont trouvé que ces les travailleurs sont confrontés à des taux plus élevés d'anxiété, de dépression et de problèmes de sommeil et respiratoires par rapport à la population générale. Malgré le salaire relativement élevé dans les centres d'appels, de nombreux travailleurs partent dans les six mois, a déclaré Poster, en prenant avec eux les leçons sur le tas qu'ils ont apprises.

"Nous ne prévoyons rien de mal"

La feuille de route de Sanas semble ambitieuse. Au moins sept entreprises d'externalisation ont déjà déployé des produits Sanas dans leurs centres d'appels, selon le matériel promotionnel de l'entreprise. La société envisage même d'ouvrir un siège social en Inde. "Nous pensons que nous sommes sur le point d'une percée technologique qui égalisera le terrain de jeu pour que quiconque soit compris à travers le monde", a déclaré Sarim à SFGATE.

C'est un argumentaire alléchant pour les multinationales qui se sont rendues dépendantes des centres d'appels.

"Nous ne prévoyons rien de mal en sortir", a déclaré Sarim. « En fait, je vais adopter l'approche opposée et dire simplement qu'il s'agit d'un produit qui modifie le PIB. Cela apportera des millions d'emplois aux Philippines, des millions d'emplois en Inde, des millions d'emplois dans des endroits qui, autrement, ne seraient pas autorisés à entrer dans cette conversation.

Mais aucune des solutions de Sanas ne résout actuellement le problème central de la main-d'œuvre externalisée : les travailleurs subissent de mauvaises conditions de travail et une surveillance totale, en plus du harcèlement. Pour atténuer ces conditions, a déclaré Poster, aucune nouvelle technologie n'est nécessaire. Les travailleurs ont besoin de plus de formation - non pas sur la façon de paraître plus blanc, mais sur la façon de fournir des solutions réelles et tangibles aux appels des clients. Et, a-t-elle dit, ils ont besoin de moins de surveillance, de sorte qu'ils peuvent confortablement aider les clients sans que les agents d'assurance qualité ne leur soufflent dessus.

Au lieu de rechercher des solutions à ces problèmes fondamentaux, Sanas propose un moyen de haute technologie de faire ce que les centres d'appels externalisés ont fait pendant des décennies : effacer l'humain à l'autre bout du téléphone.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd