Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1344

Incidentes Asociados

Incidente 6023 Reportes
FaceApp Racial Filters

Loading...
FaceApp se disculpa por el filtro 'racista' que aclara el tono de piel de los usuarios
theguardian.com · 2017

El creador de una aplicación que cambia tus selfies usando inteligencia artificial se disculpó porque su filtro "caliente" aclaraba automáticamente la piel de las personas.

FaceApp se promociona como una aplicación que utiliza "redes neuronales" para cambiar las características faciales, agregando sonrisas o haciendo que los usuarios parezcan mayores o más jóvenes. Pero los usuarios notaron que una de las opciones, inicialmente etiquetada como "caliente", hacía que las personas se vieran más blancas.

Yaroslav Goncharov, el creador y director ejecutivo de FaceApp, se disculpó por la función, que dijo que era un efecto secundario de la "red neuronal".

Él dijo: “Lamentamos profundamente este problema incuestionablemente grave.

"Es un efecto secundario desafortunado de la red neuronal subyacente causado por el sesgo del conjunto de entrenamiento, no por el comportamiento previsto".

La función aún está disponible, pero ahora se le cambió el nombre a "chispa", en un intento de "excluir cualquier connotación positiva asociada con ella", dijo Goncharov.

Agregó: “También estamos trabajando en la solución completa que debería llegar pronto”.

En entrevistas anteriores, Goncharov, ex ingeniero de Microsoft y Yandex, dijo que FaceApp se diferencia de otro software de ajuste de rostros, que generalmente agrega filtros, porque utiliza tecnología de aprendizaje profundo para alterar la foto en sí.

Le dijo a TechCrunch en febrero: “Creemos que tales efectos entretenidos están sujetos a las tendencias, pero el fotorrealismo es atemporal.

“Además de un concepto de producto sólido, creemos que estamos bastante adelantados en términos de tecnología”.

Anuncio publicitario

La aplicación salió en enero en iOS y luego en Android en febrero, pero ha ganado popularidad en las últimas semanas.

Esta no es la primera vez que una aplicación que cambia la cara de las personas ha sido criticada por insensibilidad racial.

Los filtros de Snapchat han sido criticados en varias ocasiones. El año pasado fue criticado por promocionar "cara amarilla" después de que lanzó un filtro que permitía a los usuarios convertir sus selfies en caricaturas asiáticas. Antes de eso, un filtro de Bob Marley se denominó "el equivalente digital de la cara negra".

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd