Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1120

Incidentes Asociados

Incidente 6023 Reportes
FaceApp Racial Filters

Loading...
Los filtros étnicos de FaceApp te hacen ver como una raza diferente
cosmopolitan.com · 2017

FaceApp

En los últimos meses, FaceApp ha sido una aplicación divertida que probablemente hayas visto en tus redes sociales, permitiéndote a ti y a tus amigos transformar caras para parecer mayores, más jóvenes o sonrientes cuando frunces el ceño. Incluso puede ver cómo se vería si se presentara como otro género (con esta última característica que a menudo resulta un poco problemática en sí misma). Y una característica completamente nueva de la aplicación ha llevado a la compañía a más problemas en línea.

La aplicación acaba de agregar filtros étnicos, que transforman tu rostro en lo que la aplicación considera etnias asiáticas, negras, caucásicas e indias. Sí, esto implica aclarar u oscurecer la piel, además de alterar los rasgos faciales y la textura del cabello para adaptarse a los estereotipos étnicos. Aquí hay algunas fotos de los filtros en acción.

Esto claramente no funcionó bien en línea. Algunas personas en Twitter se apresuraron a calificar los nuevos filtros de racistas, compararlos con la cara negra (y la cara marrón y la cara amarilla), y simplemente una mala idea.

¡A todo el mundo le encanta FaceApp, la aplicación de teléfono que añade sonrisas y arrugas a los rostros de tus amigos!

Lamentamos informarle que FaceApp es racista pic.twitter.com/2tRSlcfWdc — Jennifer Unkle (@jbu3) 9 de agosto de 2017

(Reunión de la junta de FaceApp)

"Nuestra aplicación es popular".

(Todos asienten)

"¿Y si pudiera ser más popular?"

(Todos se inclinan)

"Entiende esto: racismo". — Buen Tweetman (@Goodtweet_man) 9 de agosto de 2017

¡A todo Internet le encanta faceapp, la hermosa aplicación que cambia de género!

5 semanas después pic.twitter.com/3rHHo6RQmz — Casey (@caseymerwin) 9 de agosto de 2017

#FaceApp ahora con cara negra digital! ¡Completa con piel oscura, labios gruesos y una nariz ancha!

¡Una vez más, la cara negra no está bien! ¡FFS! 😡 pic.twitter.com/R7GQoN8gsT — Leon Alleyne (@leon_alleyne) 9 de agosto de 2017

Y esta no es la primera vez que la aplicación ha visto una reacción violenta en línea. Mic informa que FaceApp sacó un filtro "caliente" que parecía aclarar tu piel. La empresa se disculpó y calificó el efecto como una consecuencia no deseada de la tecnología de la aplicación, en lugar de una característica planificada.

#faceapp no solo es malo, también es racista... 🔥 filter=blanquea mi piel y haz que mi nariz sea tu opinión europea. No, gracias #desinstalado pic.twitter.com/DM6fMgUhr5 – Terrance AB Johnson (@tweeterrance) 19 de abril de 2017

Yaroslav Goncharov, director ejecutivo de FaceApp, insistió en que la característica no era ofensiva en un comunicado a Cosmopolitan.com:

Los filtros de cambio de etnia han sido diseñados para ser iguales en todos los aspectos. No tienen connotaciones positivas o negativas asociadas con ellos. Incluso están representados por el mismo icono. Además de eso, la lista de esos filtros se mezcla para cada foto, por lo que cada usuario los ve en un orden diferente.

La compañía explicó a BuzzFeed: “El filtro 'Spark' fue un caso bastante diferente. Implicaba una transformación positiva y por lo tanto, era inaceptable que un algoritmo cambiara implícitamente el origen étnico”.

Pero Gizmodo señala un factor clave que condujo a la ofensiva en línea: no hace mucho tiempo, los blancos se disfrazaban de otras razas para burlarse de ellos y, específicamente, a menudo se pintaban la cara para alterar el tono de su piel y asumir los estereotipos asociados. con esas carreras. Entonces, si bien la ofensa puede no haber sido intencional, se ha interpretado ampliamente como una forma digital de una práctica ofensiva, razón por la cual, en general, fue un movimiento bastante malo.

Actualización 9/8, 5:15 p. m.: En una declaración a Cosmopolitan.com, el CEO de FaceApp, Yaroslav Goncharov, confirma que los filtros "se eliminarán en las próximas horas".

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd