Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 199: Ever AI Reportedly Deceived Customers about FRT Use in App

Descripción: Ever AI, now Paravision AI, allegedly failed to inform customers about the development and use of facial recognition that facilitates the sale of customers’ data to various businesses, a business model that critics said was an egregious violation of privacy.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Ever AI, perjudicó a Ever AI users.

Estadísticas de incidentes

ID
199
Cantidad de informes
7
Fecha del Incidente
2019-04-01
Editores
Sean McGregor, Khoa Lam
Applied Taxonomies
GMF, MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

2.1. Compromise of privacy by obtaining, leaking or correctly inferring sensitive information

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Privacy & Security

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

Incident Occurrence+1
Millones de personas subieron fotos a la aplicación Ever. Luego, la empresa los utilizó para desarrollar herramientas de reconocimiento facial.
Ever, una vez acusado de crear tecnología de reconocimiento facial utilizando datos de clientes, cierra la aplicación para consumidores+3
Empresa de California resuelve acusaciones de la FTC de que engañó a los consumidores sobre el uso del reconocimiento facial en la aplicación de almacenamiento de fotos
Millones de personas subieron fotos a la aplicación Ever. Luego, la empresa los utilizó para desarrollar herramientas de reconocimiento facial.

Millones de personas subieron fotos a la aplicación Ever. Luego, la empresa los utilizó para desarrollar herramientas de reconocimiento facial.

nbcnews.com

Millones de personas subieron fotos a la aplicación Ever. Luego, la empresa los utilizó para desarrollar herramientas de reconocimiento facial.

Millones de personas subieron fotos a la aplicación Ever. Luego, la empresa los utilizó para desarrollar herramientas de reconocimiento facial.

nbcnews.com

Ever, una vez acusado de crear tecnología de reconocimiento facial utilizando datos de clientes, cierra la aplicación para consumidores

Ever, una vez acusado de crear tecnología de reconocimiento facial utilizando datos de clientes, cierra la aplicación para consumidores

techcrunch.com

Empresa de California resuelve acusaciones de la FTC de que engañó a los consumidores sobre el uso del reconocimiento facial en la aplicación de almacenamiento de fotos

Empresa de California resuelve acusaciones de la FTC de que engañó a los consumidores sobre el uso del reconocimiento facial en la aplicación de almacenamiento de fotos

ftc.gov

Proyecto de robo de privacidad castigado con la pena de purga de la FTC: se le dice a un advenedizo de IA que elimine datos y algoritmos

Proyecto de robo de privacidad castigado con la pena de purga de la FTC: se le dice a un advenedizo de IA que elimine datos y algoritmos

theregister.com

Paravision AI ordenó eliminar el software de reconocimiento facial derivado de las imágenes de los usuarios sin permiso

Paravision AI ordenó eliminar el software de reconocimiento facial derivado de las imágenes de los usuarios sin permiso

dpreview.com

Columna: Millones de rostros escaneados sin aprobación. Necesitamos reglas para el reconocimiento facial

Columna: Millones de rostros escaneados sin aprobación. Necesitamos reglas para el reconocimiento facial

latimes.com

Millones de personas subieron fotos a la aplicación Ever. Luego, la empresa los utilizó para desarrollar herramientas de reconocimiento facial.
nbcnews.com · 2019
Traducido por IA

“Haz recuerdos”: ese es el eslogan en el sitio web de la aplicación de almacenamiento de fotos Ever, acompañado de un logotipo en cursiva y un álbum de ejemplo titulado “Fin de semana con el abuelo”.

Todo sobre la marca de Ever es cálido y …

Millones de personas subieron fotos a la aplicación Ever. Luego, la empresa los utilizó para desarrollar herramientas de reconocimiento facial.
nbcnews.com · 2019
Traducido por IA

El sitio web de Ever AI no menciona las instantáneas de los "mejores momentos". En cambio, en comunicados de prensa, [describe](http://www.globenewswire.com/news-release/2018/11/27/1657221/0/en/Ever-AI-Leads-All-US-Companies-on -NIST-s-Pres…

Ever, una vez acusado de crear tecnología de reconocimiento facial utilizando datos de clientes, cierra la aplicación para consumidores
techcrunch.com · 2020
Traducido por IA

La aplicación de almacenamiento de fotos en la nube Ever se está cerrando, citando como causa el aumento de la competencia con los servicios predeterminados ofrecidos por Apple y Google. Sin embargo, la empresa tenía otros problemas más all…

Empresa de California resuelve acusaciones de la FTC de que engañó a los consumidores sobre el uso del reconocimiento facial en la aplicación de almacenamiento de fotos
ftc.gov · 2021
Traducido por IA

Un desarrollador de una aplicación de fotos con sede en California resolvió las acusaciones de la Comisión Federal de Comercio de que engañó a los consumidores sobre el uso de la tecnología de reconocimiento facial y la retención de las fot…

Proyecto de robo de privacidad castigado con la pena de purga de la FTC: se le dice a un advenedizo de IA que elimine datos y algoritmos
theregister.com · 2021
Traducido por IA

El negocio del reconocimiento facial fracasó después de recolectar fotos y videos de personas sin permiso.

La Comisión Federal de Comercio de EE. UU. ordenó a un negocio de reconocimiento facial con sede en California que elimine los modelo…

Paravision AI ordenó eliminar el software de reconocimiento facial derivado de las imágenes de los usuarios sin permiso
dpreview.com · 2021
Traducido por IA

Se le ordenó al desarrollador de reconocimiento facial Paravision AI que elimine una gran cantidad de datos de usuario que tenía y usaba ilegalmente para crear aplicaciones de reconocimiento facial a partir de las imágenes almacenadas en su…

Columna: Millones de rostros escaneados sin aprobación. Necesitamos reglas para el reconocimiento facial
latimes.com · 2021
Traducido por IA

Los poderes fácticos de UCLA pensaron que era una buena idea en ese momento: usar tecnología de punta para escanear las caras de los estudiantes para obtener acceso a los edificios del campus. Los estudiantes pensaron lo contrario.

“La impl…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidente AnteriorSiguiente Incidente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df