Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1121

Incidentes Asociados

Incidente 6023 Reportes
FaceApp Racial Filters

Loading...
FaceApp presentó los filtros para selfies Blackface y Yellowface, luego los eliminó unas horas más tarde
buzzfeednews.com · 2017

"Nuevos filtros: asiático, negro, caucásico, indio". QUÉ. Actualización: Faceapp ha eliminado los cuatro nuevos filtros.

¿Recuerdas FaceApp? En abril, apareció Internet Thing(™) repentinamente popular que haría que tu rostro se viera como si fueras un bebé, una persona mayor o un género diferente. ¡Pulcro! Luego, la gente notó que el filtro "Spark" de la aplicación (al principio llamado filtro "Hot") solo los hacía lucir más blancos.

#faceapp no solo es malo, también es racista... 🔥 filter=blanquea mi piel y haz que mi nariz sea tu opinión europea. No… https://t.co/bhh2cq6c2A

La compañía eliminó el filtro en respuesta a la reacción violenta. En ese momento, FaceApp le dijo a BuzzFeed News que el efecto blanqueador no fue intencional: "Es un efecto secundario desafortunado de la red neuronal subyacente causado por el sesgo del conjunto de entrenamiento, no por el comportamiento previsto". Todo estaba aparentemente bien.

Pero luego FaceApp lo hizo de nuevo. La aplicación introdujo nuevos filtros el miércoles: "Asiático, Negro, Caucásico e Indio". Es posible que Milkshake se haya agachado.

¡A todo el mundo le encanta FaceApp, la aplicación de teléfono que añade sonrisas y arrugas a los rostros de tus amigos! Lamentamos informarles… https://t.co/dyJoMQ5qek

Al principio, FaceApp dijo en un comunicado a BuzzFeed News: "Los filtros de cambio de etnicidad han sido diseñados para ser iguales en todos los aspectos. No tienen connotaciones positivas o negativas asociadas con ellos. Incluso están representados por el mismo ícono". Además de eso, la lista de esos filtros se mezcla para cada foto, por lo que cada usuario los ve en un orden diferente". "El filtro 'Spark' fue un caso bastante diferente. Implicaba una transformación positiva y, por lo tanto, era inaceptable que un algoritmo cambiara implícitamente el origen étnico", agregó FaceApp. Pero después de la reacción negativa del público y la publicación de este artículo, FaceApp eliminó los filtros de selfies raciales de su aplicación.

Esto es lo que sucedería cuando usaras los filtros: te tomarías una selfie. Con cierto escepticismo.

Blake Montgomery/Noticias BuzzFeed

Seleccionarías algunos filtros. En el sentido de las agujas del reloj desde arriba a la derecha, mis opciones fueron caucásica (se parece más a mi yo caucásica, pero con ojos azules más fríos), asiática, negra e india.

Blake Montgomery/Noticias BuzzFeed

¿Deberíamos echar un segundo vistazo a eso?

Blake Montgomery/Noticias BuzzFeed

Esto es lo que sucedió cuando el productor de videos de BuzzFeed, Brendan Smith, probó los filtros de FaceApp: En el sentido de las agujas del reloj desde arriba a la derecha: asiático, negro, caucásico, sin filtro.

Brendan Smith/Noticias BuzzFeed

Y la reportera de BuzzFeed News, Katie Notopoulos: En el sentido de las agujas del reloj desde arriba a la derecha: negro, asiático, indio, sin filtro.

Katie Notopoulos/Noticias BuzzFeed

Y Jill Stachyra, quien envió a BuzzFeed News sus selfies (abajo). Tiene 16 años, vive en Nueva York y se identifica como mitad negra y mitad blanca. "Recibí esta notificación y estoy SHOOK. Esa soy yo; soy una chica de 16 años mitad negra/blanca de Nueva York y estoy furiosa. Esto no debería ser normal", le dijo a BuzzFeed News. "La parte superior izquierda es normal; la parte superior derecha es 'Negra'; observe los labios agrandados 🙄; la parte inferior izquierda es 'Asiática' y la parte inferior derecha es 'India', lo cual me corrige si me equivoco, pero la última vez que revisé, India estaba en Asia", dijo.

Jill Stachyra/Noticias BuzzFeed

Algunas personas en Twitter no estaban contentas:

(Reunión de la junta de FaceApp) "Nuestra aplicación es popular". (Todos asienten) "¿Y si pudiera ser más popular?" (Todos se inclinan) "Obtengan esto: racismo".

Así que supongo que la aplicación de rostros se volvió racista hoy 😳

ah sí exactamente lo que necesita nuestro país racista. ¡Gran actualización de la aplicación facial!

Me alegro de la aplicación de cara, esa aplicación divertida que todos usamos durante 24 horas, acabo de inventar la cara negra como un intento genial de regreso retro

oh jesus faceapp por favor no hagas esto

¿Pero algunas personas estaban en eso...?

A partir de la investigación de @Skisodamus sobre faceapp, descubrí que sería un apuesto hombre negro y asiático.

Agregaron diferentes razas a FaceApp🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥🔥

la aplicación facial sigue mejorando

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd