Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 312: Startup's Accent Translation AI Denounced as Reinforcing Racial Bias

Descripción: A startup’s use of AI voice technology to alter or remove accents for call center agents was scrutinized by critics as reaffirming bias, despite the company’s claim.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Sanas, perjudicó a call center agents having non-Midwestern-American accent y people having non-Midwestern-American accent.

Estadísticas de incidentes

ID
312
Cantidad de informes
4
Fecha del Incidente
2021-08-15
Editores
Khoa Lam
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

Incident Occurrence+3
La startup Buzzy de Silicon Valley quiere hacer que el mundo suene más blanco
La startup Buzzy de Silicon Valley quiere hacer que el mundo suene más blanco

La startup Buzzy de Silicon Valley quiere hacer que el mundo suene más blanco

sfgate.com

Startup de Silicon Valley genera controversia sobre lo que los críticos llaman 'software racista'

Startup de Silicon Valley genera controversia sobre lo que los críticos llaman 'software racista'

nbcbayarea.com

Startup usa IA para transformar los acentos de los trabajadores del centro de llamadas en "voz blanca"

Startup usa IA para transformar los acentos de los trabajadores del centro de llamadas en "voz blanca"

boingboing.net

Esta startup te hará sonar más blanco y no ve nada de malo en eso.

Esta startup te hará sonar más blanco y no ve nada de malo en eso.

inputmag.com

La startup Buzzy de Silicon Valley quiere hacer que el mundo suene más blanco
sfgate.com · 2022
Traducido por IA

La startup de Silicon Valley Sanas tiene un objetivo elevado: hacer que los trabajadores de los centros de llamadas suenen blancos y estadounidenses, sin importar el país ellos son de. Y eso es solo el comienzo de su gran plan.

El sitio web…

Startup de Silicon Valley genera controversia sobre lo que los críticos llaman 'software racista'
nbcbayarea.com · 2022
Traducido por IA

Una startup de Silicon Valley está generando controversia por lo que los críticos llaman "software racista".

Sanas de Palo Alto utiliza inteligencia artificial para alterar o eliminar los acentos que puede escuchar cuando llama a una línea …

Startup usa IA para transformar los acentos de los trabajadores del centro de llamadas en "voz blanca"
boingboing.net · 2022
Traducido por IA

¿Has visto la película de 2018 Lo siento por molestarte? Se trata de un joven negro que consigue un trabajo en un centro de llamadas y tiene problemas para hacer ventas hasta que adopta una "voz blanca".

Una nueva empresa llamada Sanas pare…

Esta startup te hará sonar más blanco y no ve nada de malo en eso.
inputmag.com · 2022
Traducido por IA

La premisa de Sanas es bastante simple: elimina tu acento en tiempo real. Se creó pensando en empresas como los centros de llamadas, donde las personas que llaman se enfrentan a prejuicios raciales basados únicamente en sus perfiles de voz.…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Selected by our editors
Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

Jul 2017 · 29 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Selected by our editors
Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

Jul 2017 · 29 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df