Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 60: FaceApp Racial Filters

Descripción: FaceApp is criticized for offering racist filters.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por FaceApp, perjudicó a Minority Groups.

Estadísticas de incidentes

ID
60
Cantidad de informes
23
Fecha del Incidente
2017-04-25
Editores
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Unknown/unclear

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

Low

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

Photos of faces

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

60

AI Tangible Harm Level Notes

Notes about the AI tangible harm level assessment
 

Annotator 1:

3.3 - Although there was no tangible harm, the adverse outcomes of the incident were directly related to the AI.

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

Annotator 1:

4.4 - FaceApp added a filter that allowed users to look like different races/ethnicities. It also added a "hot" filter that automatically lightened skin color.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

+8
El CEO de FaceApp se disculpa por blanquear la piel con el filtro 'caliente'
¿Cómo funciona FaceApp? Así es como puede participar en la tendencia viral de maceración de rostrosCómo los teléfonos inteligentes populares hacen que tu piel se vea 'más blanca' en las selfies+12
La aplicación de edición de fotos FaceApp se actualiza con filtros asiáticos, negros, caucásicos e indios
El CEO de FaceApp se disculpa por blanquear la piel con el filtro 'caliente'

El CEO de FaceApp se disculpa por blanquear la piel con el filtro 'caliente'

dailydot.com

FaceApp elimina nuevos filtros de negro, blanco y asiático tras tormenta de racismo

FaceApp elimina nuevos filtros de negro, blanco y asiático tras tormenta de racismo

telegraph.co.uk

FaceApp lo siento por el filtro 'racista' que aclara la piel para hacer que los usuarios estén 'calientes'

FaceApp lo siento por el filtro 'racista' que aclara la piel para hacer que los usuarios estén 'calientes'

bbc.co.uk

FaceApp culpa a la IA por blanquear a los negros

FaceApp culpa a la IA por blanquear a los negros

gizmodo.co.uk

Esa 'FaceApp' viral está haciendo que todos se vean más blancos

Esa 'FaceApp' viral está haciendo que todos se vean más blancos

motherboard.vice.com

FaceApp se disculpa por el filtro 'racista' que aclara el tono de piel de los usuarios

FaceApp se disculpa por el filtro 'racista' que aclara el tono de piel de los usuarios

theguardian.com

FaceApp elimina el filtro 'Spark' luego de acusaciones de blanqueo

FaceApp elimina el filtro 'Spark' luego de acusaciones de blanqueo

colorlines.com

FaceApp: los expertos tienen preocupaciones de privacidad sobre la popular aplicación de transformación de rostros

FaceApp: los expertos tienen preocupaciones de privacidad sobre la popular aplicación de transformación de rostros

abc.net.au

¿Cómo funciona FaceApp? Así es como puede participar en la tendencia viral de maceración de rostros

¿Cómo funciona FaceApp? Así es como puede participar en la tendencia viral de maceración de rostros

bustle.com

Cómo los teléfonos inteligentes populares hacen que tu piel se vea 'más blanca' en las selfies

Cómo los teléfonos inteligentes populares hacen que tu piel se vea 'más blanca' en las selfies

businessinsider.com.au

La aplicación de edición de fotos FaceApp se actualiza con filtros asiáticos, negros, caucásicos e indios

La aplicación de edición de fotos FaceApp se actualiza con filtros asiáticos, negros, caucásicos e indios

mic.com

La popular aplicación de envejecimiento facial ahora ofrece filtros 'Negro', 'Indio' y 'Asiático'

La popular aplicación de envejecimiento facial ahora ofrece filtros 'Negro', 'Indio' y 'Asiático'

theverge.com

FaceApp elimina los filtros negros, asiáticos e indios después de una reacción violenta que deberían haber esperado

FaceApp elimina los filtros negros, asiáticos e indios después de una reacción violenta que deberían haber esperado

complex.com

FaceApp elimina los 'filtros de etnicidad' después de la tormenta de racismo

FaceApp elimina los 'filtros de etnicidad' después de la tormenta de racismo

dailymail.co.uk

FaceApp obligado a sacar filtros 'racistas' que permiten 'cara negra digital'

FaceApp obligado a sacar filtros 'racistas' que permiten 'cara negra digital'

theguardian.com

FaceApp lanza filtros de cambio de raza

FaceApp lanza filtros de cambio de raza

stuff.co.nz

FaceApp permite a los usuarios cambiar brevemente el color de su piel. Mala idea.

FaceApp permite a los usuarios cambiar brevemente el color de su piel. Mala idea.

slate.com

Los filtros de fotos indios y negros de FaceApp son obviamente racistas

Los filtros de fotos indios y negros de FaceApp son obviamente racistas

dailyo.in

FaceApp lanza opciones de Blackface digital porque el mundo está lleno de idiotas

FaceApp lanza opciones de Blackface digital porque el mundo está lleno de idiotas

gizmodo.com.au

FaceApp está siendo llamado "racista" nuevamente por presentar filtros problemáticos

FaceApp está siendo llamado "racista" nuevamente por presentar filtros problemáticos

allure.com

Los filtros de fotos 'racistas' de FaceApp alentaron a los usuarios a ponerse negros

Los filtros de fotos 'racistas' de FaceApp alentaron a los usuarios a ponerse negros

independent.co.uk

Los filtros étnicos de FaceApp te hacen ver como una raza diferente

Los filtros étnicos de FaceApp te hacen ver como una raza diferente

cosmopolitan.com

FaceApp presentó los filtros para selfies Blackface y Yellowface, luego los eliminó unas horas más tarde

FaceApp presentó los filtros para selfies Blackface y Yellowface, luego los eliminó unas horas más tarde

buzzfeednews.com

El CEO de FaceApp se disculpa por blanquear la piel con el filtro 'caliente'
dailydot.com · 2017
Traducido por IA

Parece que FaceApp, la nueva moda de transformación de rostros, ya necesita un cambio de imagen.

Lanzada en enero y proveniente de Rusia, FaceApp está despertando interés por su tecnología de inteligencia artificial y sus filtros intrigante…

FaceApp elimina nuevos filtros de negro, blanco y asiático tras tormenta de racismo
telegraph.co.uk · 2017
Traducido por IA

Una aplicación viral que agrega filtros a las selfies de los usuarios para cambiar su apariencia se retractó en su última actualización luego de que fue acusada de racismo por su nueva gama de filtros étnicos.

FaceApp, que utiliza el recono…

FaceApp lo siento por el filtro 'racista' que aclara la piel para hacer que los usuarios estén 'calientes'
bbc.co.uk · 2017
Traducido por IA

Los creadores de una aplicación de transformación de rostros se disculparon después de que los usuarios los acusaran de crear un filtro "racista".

FaceApp puede cambiar los retratos para que las personas se vean mayores, cambien de género o…

FaceApp culpa a la IA por blanquear a los negros
gizmodo.co.uk · 2017
Traducido por IA

Las personas que realmente quieren ver sus rostros reflejados en las pantallas de sus teléfonos se han estado divirtiendo con FaceApp recientemente, con Facebook y Twitter actualmente sobrecargados con imágenes de usuarios que comparten cóm…

Esa 'FaceApp' viral está haciendo que todos se vean más blancos
motherboard.vice.com · 2017
Traducido por IA

Gorjeo/Terrance AB Johnson

Sucedió: una empresa de tecnología volvió a hacer algo malo. Esta vez, es la súper popular aplicación de transformación de rostros llamada, espéralo…FaceApp.

Por alguna razón que desconozco, FaceApp se convirtió e…

FaceApp se disculpa por el filtro 'racista' que aclara el tono de piel de los usuarios
theguardian.com · 2017
Traducido por IA

El creador de una aplicación que cambia tus selfies usando inteligencia artificial se disculpó porque su filtro "caliente" aclaraba automáticamente la piel de las personas.

FaceApp se promociona como una aplicación que utiliza "redes neuron…

FaceApp elimina el filtro 'Spark' luego de acusaciones de blanqueo
colorlines.com · 2017
Traducido por IA

Una aplicación de selfies que representa los rostros de los usuarios en diferentes estilos eliminó uno de sus filtros luego de las críticas de que blanqueaba los rostros de las personas de color.

Mic informa que después de recibir quejas, l…

FaceApp: los expertos tienen preocupaciones de privacidad sobre la popular aplicación de transformación de rostros
abc.net.au · 2017
Traducido por IA

FaceApp: los expertos tienen preocupaciones de privacidad sobre la popular aplicación de transformación de rostros

Actualizado

FaceApp se ha vuelto viral. ¿Por qué? Porque te permite transformar tu cara de maneras divertidas.

Pero los defen…

¿Cómo funciona FaceApp? Así es como puede participar en la tendencia viral de maceración de rostros
bustle.com · 2017
Traducido por IA

Las redes sociales están inundadas en este momento de selfies con transformaciones faciales extrañamente realistas gracias a una aplicación viral, apropiadamente llamada "FaceApp". FaceApp permite a los usuarios agregar filtros a los rostro…

Cómo los teléfonos inteligentes populares hacen que tu piel se vea 'más blanca' en las selfies
businessinsider.com.au · 2017
Traducido por IA

Shona Ghosh/Business Insider Los filtros de belleza de los teléfonos inteligentes más populares te vuelven más pálido en las selfies

Si posee un teléfono con Android, es probable que tenga una configuración de cámara que no conoce.

Los telé…

La aplicación de edición de fotos FaceApp se actualiza con filtros asiáticos, negros, caucásicos e indios
mic.com · 2017
Traducido por IA

El miércoles por la mañana, la aplicación de edición de fotos FaceApp lanzó nuevos filtros de fotos que cambian la apariencia étnica de tu rostro.

La aplicación se hizo popular por primera vez a principios de 2017 debido a su capacidad para…

La popular aplicación de envejecimiento facial ahora ofrece filtros 'Negro', 'Indio' y 'Asiático'
theverge.com · 2017
Traducido por IA

El CEO de FaceApp dice: "Los nuevos filtros controvertidos se eliminarán en las próximas horas".

Es posible que recuerde FaceApp, una aplicación de edición de selfies que transforma las imágenes de los usuarios haciéndolos parecer mayores, …

FaceApp elimina los filtros negros, asiáticos e indios después de una reacción violenta que deberían haber esperado
complex.com · 2017
Traducido por IA

¿Recuerda FaceApp, la aplicación para teléfonos inteligentes que, entre otras cosas, le permite agregar un filtro a su rostro para que parezca más joven o más viejo? ¿El que de alguna manera fascina a todas las personas que conoces y las al…

FaceApp elimina los 'filtros de etnicidad' después de la tormenta de racismo
dailymail.co.uk · 2017
Traducido por IA

Una aplicación viral que agregó filtros asiáticos, negros, caucásicos e indios a las selfies de las personas los eliminó después de ser acusada de racismo.

La actualización que se lanzó ayer recibió una reacción violenta, y muchas personas …

FaceApp obligado a sacar filtros 'racistas' que permiten 'cara negra digital'
theguardian.com · 2017
Traducido por IA

El programa impulsado por IA permitió a los usuarios editar selfies para encajar en las categorías 'Caucásica, Asiática, India o Negra', lo que provocó indignación y un cambio de sentido inmediato.

FaceApp, el popular programa de autofotos …

FaceApp lanza filtros de cambio de raza
stuff.co.nz · 2017
Traducido por IA

El jefe de FaceApp, Yaroslav Goncharov, ha defendido los nuevos filtros. "Los filtros de cambio de etnia han sido diseñados para ser iguales en todos los aspectos".

​FaceApp, una aplicación que utiliza redes neuronales para transformar tus …

FaceApp permite a los usuarios cambiar brevemente el color de su piel. Mala idea.
slate.com · 2017
Traducido por IA

Los filtros raciales de FaceApp vivieron solo brevemente, pero nunca deberían haber ocurrido en primer lugar.

FaceApp

Por un breve momento el miércoles, FaceApp, la aplicación que se volvió viral en abril por tomar una foto de la cara de al…

Los filtros de fotos indios y negros de FaceApp son obviamente racistas
dailyo.in · 2017
Traducido por IA

La popular aplicación de filtro de fotos, FaceApp, que permite a los usuarios tomar selfies y luego agregarles filtros divertidos para cambiar su apariencia agregando una variedad de filtros de fotos, enfrentó una gran reacción después de q…

FaceApp lanza opciones de Blackface digital porque el mundo está lleno de idiotas
gizmodo.com.au · 2017
Traducido por IA

Esto realmente no es tan difícil, gente. El año pasado, Snapchat se disculpó por agregar un filtro ofensivo de selfies de Bob Marley a su establo. Ahora, FaceApp, el tonto editor de fotos que probablemente descargó en marzo y del que se olv…

FaceApp está siendo llamado "racista" nuevamente por presentar filtros problemáticos
allure.com · 2017
Traducido por IA

Recuerde esa aplicación viral de filtrado facial, FaceApp, que fue acusada de ser racista después de presentar un filtro llamado "Hot" que en realidad aclaraba la piel de las personas](https://www.allure.com/story/faceapp-accused-of-racism …

Los filtros de fotos 'racistas' de FaceApp alentaron a los usuarios a ponerse negros
independent.co.uk · 2017
Traducido por IA

FaceApp eliminó una serie de filtros de fotos con temas raciales después de ser acusado de racismo.

La aplicación, que utiliza inteligencia artificial para editar imágenes, lanzó esta semana una serie de "filtros de cambio de etnicidad".

Af…

Los filtros étnicos de FaceApp te hacen ver como una raza diferente
cosmopolitan.com · 2017
Traducido por IA

FaceApp

En los últimos meses, FaceApp ha sido una aplicación divertida que probablemente hayas visto en tus redes sociales, permitiéndote a ti y a tus amigos transformar caras para parecer mayores, más jóvenes o sonrientes cuando frunces el…

FaceApp presentó los filtros para selfies Blackface y Yellowface, luego los eliminó unas horas más tarde
buzzfeednews.com · 2017
Traducido por IA

"Nuevos filtros: asiático, negro, caucásico, indio". QUÉ. Actualización: Faceapp ha eliminado los cuatro nuevos filtros.

¿Recuerdas FaceApp? En abril, apareció Internet Thing(™) repentinamente popular que haría que tu rostro se viera como s…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 informes
Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 informes
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 informes
Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 informes
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df