Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1108

Incidentes Asociados

Incidente 6023 Reportes
FaceApp Racial Filters

Loading...
FaceApp: los expertos tienen preocupaciones de privacidad sobre la popular aplicación de transformación de rostros
abc.net.au · 2017

FaceApp: los expertos tienen preocupaciones de privacidad sobre la popular aplicación de transformación de rostros

Actualizado

FaceApp se ha vuelto viral. ¿Por qué? Porque te permite transformar tu cara de maneras divertidas.

Pero los defensores de la privacidad advierten que podría estar dando mucha más información de la que cree.

Es la aplicación de iPhone gratuita número uno en Australia y en más de 20 países en este momento, según Applyzer.com. Según los informes, más de 700.000 personas lo descargan todos los días.

Sus creadores, con sede en Rusia, dicen que la aplicación utiliza una forma de inteligencia artificial (IA), conocida como red neuronal, para escanear rostros y hacerlos más jóvenes, mayores, de un género diferente o más atractivos.

El fundador de FaceApp, Yaroslav Goncharov, dijo recientemente que la aplicación usaba "redes neuronales para modificar una cara en cualquier foto y mantenerla fotorrealista".

Pero al igual que muchas aplicaciones anteriores que toman fotos en los teléfonos inteligentes, se ha topado con controversias sobre el racismo y la privacidad.

Hay una política de privacidad, pero no es sorprendente.

El problema con la aplicación, y probablemente como muchos otros en su teléfono, es que no está claro qué sucede con todos los datos que le proporciona.

La política de privacidad de la compañía deja bastante margen de maniobra, según el comentarista de tecnología Stilgherrian.

"Esta es una política de privacidad repetitiva bastante estándar, que efectivamente no ofrece ninguna protección", dijo.

"Todo el modelo de negocio de 'Startup-land' está recogiendo cantidades masivas de datos personales sin tener idea aún de cómo podría usarse en el futuro.

"Mientras tanto, los jugadores en Startup-land solo miran hacia el futuro mientras flotan sus acciones, o Facebook, Google o quien sea los compre".

También ha habido acusaciones de que la aplicación estaba sesgando los tonos de piel más claros, lo que llevó a acusaciones de que era racista.

Se decía que su filtro de "calor" (ahora rebautizado como "chispa") blanqueaba la piel de las personas de color para hacerlas más atractivas.

En una declaración a TechCrunch, Goncharov se disculpó y dijo que estaba "trabajando en una solución completa que debería llegar pronto".

"Lamentamos profundamente este problema incuestionablemente grave", dijo al sitio web de tecnología.

"Es un efecto secundario desafortunado de la red neuronal subyacente causado por el sesgo del conjunto de entrenamiento, no por el comportamiento previsto".

Pero Stilgherrian dijo que era un problema que debería haberse previsto.

"La acusación de racismo va al núcleo de la cultura de hermanos tóxicos de Startup-land, ya sea en Silicon Valley o, como en este caso, en Moscú.

“Es un problema en todo el ecosistema de empresas emergentes que aspiran a ser la próxima empresa multimillonaria.

"FaceApp se disculpó por entrenar su IA en (presuntamente) rostros mayoritariamente blancos, pero ¿por qué no se dieron cuenta de esto para empezar?".

La toma del abogado

Entonces, con las acusaciones de racismo y problemas de privacidad, ¿debería usarlo?

El abogado Michael Bradley, socio gerente de Marque Lawyers, dijo que depende de usted decidir, pero como muchas cosas que vienen gratis en el mundo de la tecnología: el comprador debe tener cuidado.

"Cualquiera que haya colocado su rostro en línea junto con su nombre y otros datos de identificación (por ejemplo, cualquier persona con un perfil de redes sociales o un perfil de sitio web), ya es bastante vulnerable a ser capturado digitalmente para futuros usos de reconocimiento facial", dijo Bradley. el ABC.

"Esta aplicación en particular no agrega mucho peligro adicional. Sin embargo, dar su consentimiento para esos usos con fines comerciales es un paso adicional que no tiene ventajas para los humanos".

Bradley dijo que la política de privacidad de FaceApp no dice nada sobre lo que sucedería con sus datos si dejara de usar el servicio.

"Sí dice que, si venden su negocio, sus datos se irán con él y usted da su consentimiento para que eso suceda", dijo.

"La renuncia a la privacidad se extiende a cualquier afiliado de FaceApp o su sucesor. Hipotéticamente, si FaceApp se vende a la NSA..."

Los expertos en privacidad opinan

El presidente de la Australian Privacy Foundation, David Vaile, es contundente.

"Respuesta corta: no lo uses", dijo.

"Piden muchos más derechos de los que necesitan para ofrecerle el servicio, [ellos] pueden eliminar los datos de cualquier régimen de protección legal efectivo, compartirlos con casi cualquier persona y retenerlos indefinidamente.

"Es imposible saber a partir de esto qué sucede cuando lo subes, ese es el problema. La licencia es muy laxa. Pueden afirmar que aceptas que pueden enviar a donde quieran a quien quieran, y siempre que haya algo conexión, [pueden] hacer muchas cosas con ella".

Jon Lawrence, director ejecutivo de Electronic Frontiers, dijo que la gente necesitaba pensar detenidamente, especialmente cuando se trataba de reconocimiento facial.

"Facebook, por supuesto, está a la vanguardia de esto", dijo.

"El reconocimiento facial se está convirtiendo rápidamente en uno de los elementos clave de la identidad digital y, por lo tanto, las personas deberían considerar proteger su imagen facial de la misma manera que deberían proteger otros elementos de su identidad, como su fecha de nacimiento, número de identificación fiscal, etc.".

Las preguntas a FaceApp sobre la retención de imágenes no fueron respondidas.

Temas: tecnología de internet, cultura de internet, inteligencia de seguridad, australia

Publicado por primera vez

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd