Incidentes Asociados
El sitio web de Ever AI no menciona las instantáneas de los "mejores momentos". En cambio, en comunicados de prensa, [describe](http://www.globenewswire.com/news-release/2018/11/27/1657221/0/en/Ever-AI-Leads-All-US-Companies-on -NIST-s-Prestigious-Facial-Recognition-Vendor-Test.html) cómo la compañía posee un "conjunto de datos global privado en constante expansión de 13 mil millones de fotos y videos" de lo que la compañía dijo que son decenas de millones de usuarios en 95 países . Ever AI usa las fotos para ofrecer "la mejor tecnología de reconocimiento facial de su clase", dice la compañía, que puede estimar la emoción, el origen étnico, el género y la edad. Aley confirmó en una entrevista que esas fotos provienen de los usuarios de la aplicación Ever.
Ever AI promete a los posibles clientes militares que puede "mejorar las capacidades de vigilancia" e "identificar y actuar sobre las amenazas". Ofrece a las fuerzas del orden la capacidad de identificar rostros en grabaciones de cámaras corporales o transmisiones de video en vivo.
Hasta ahora, Ever AI ha obtenido contratos solo con empresas privadas, incluido un acuerdo [anunciado] (http://e.com/news-release/2018/05/02/1494988/0/en/Ever-AI-Extends- Product-Suite-with-First-U-S-Based-Liveness-Detection-Offering.html) el año pasado con SoftBank Robotics, creadores del [robot "Pepper"](https://arstechnica.com/information-technology/2016/ 08/pepper-the-4-foot-tall-robot-that-reads-emotions-makes-her-us-debut/), un robot de servicio al cliente diseñado para ser utilizado en entornos de hostelería y comercio minorista. Ever AI no ha registrado ninguna agencia de seguridad nacional, militar o policial.
NBC News habló con siete usuarios de Ever, y la mayoría dijo que no sabía que sus fotos se estaban utilizando para desarrollar tecnología de reconocimiento facial.
Sarah Puchinsky-Roxey, de 22 años, de Lemoore, California, usó una palabrota cuando le hablaron por teléfono sobre el negocio de reconocimiento facial de la empresa. “No estaba al tanto de ningún reconocimiento facial en la aplicación Ever”, Roxey, una fotógrafa, envió un correo electrónico más tarde, señalando que había usado la aplicación durante varios años. “Lo cual es un poco espeluznante ya que tengo fotos de mis hijos allí y de amigos que nunca han dado su consentimiento para este tipo de cosas”.
Ella dijo que encontró que las prácticas de la compañía eran "invasivas" y ahora eliminó la aplicación.
UN NUEVO MODELO DE NEGOCIO
Aley, quien se unió a Ever en 2016, dijo en una entrevista telefónica que la compañía decidió explorar el reconocimiento facial hace aproximadamente dos años y medio cuando él y otros líderes de la compañía se dieron cuenta de que una aplicación de fotos gratuita con algunas pequeñas funciones premium pagadas “ no iba a ser un negocio a escala de riesgo”.
Aley dijo que tener un "corpus" tan grande de más de 13 mil millones de imágenes fue increíblemente valioso para desarrollar un sistema de reconocimiento facial.
“Si puede alimentar un sistema con muchos millones de caras, ese sistema terminará siendo mejor y más preciso en el otro lado de eso”, dijo.
[Una prueba comparativa de la industria encontró el año pasado que Ever AI](http://www.globenewswire.com/news-release/2018/11/27/1657221/0/en/Ever-AI-Leads-All-US-Companies -on-NIST-s-Prestigious-Facial-Recognition-Vendor-Test.html) la tecnología de reconocimiento facial tiene una precisión del 99,85 % en la comparación de rostros.
Cuando se le preguntó si la empresa podría explicar mejor a los usuarios de Ever que la tecnología de la aplicación potencia la IA de Ever, Aley dijo que no.
“Creo que nuestra política de privacidad y [términos de servicio] (https://www.everalbum.com/terms-of-service) son muy claros y están bien articulados”, agregó. “No usan ninguna jerga legal”.
Después de que NBC News le preguntó a la empresa en abril si los usuarios habían dado su consentimiento para que sus fotos se usaran para entrenar software de reconocimiento facial que podría venderse a la policía y al ejército, la empresa publicó una [política de privacidad] actualizada (https://www.everalbum .com/privacy-policy) en el sitio web de la aplicación.
Anteriormente, la política de privacidad explicaba que la tecnología de reconocimiento facial se usaba para ayudar a "organizar sus archivos y permitirle compartirlos con las personas adecuadas". La aplicación tiene una función de etiquetado facial opcional muy parecida a Facebook que permite a los usuarios buscar amigos o familiares específicos que usan la aplicación.
En la política de privacidad anterior, la única indicación de que las fotos se usarían para otro propósito era una sola línea: "Sus archivos pueden usarse para ayudar a mejorar y capacitar nuestros productos y estas tecnologías".
El 15 de abril, una semana después de que NBC News contactara a Ever por primera vez, la compañía agregó una oración para explicar qué significaba "nuestros productos".
"Algunas de estas tecnologías pueden usarse en nuestros productos y servicios separados para clientes empresariales, incluidas nuestras ofertas de reconocimiento facial empresarial, pero sus archivos e información personal no lo serán", establece ahora la política.
En un correo electrónico, Aley explicó por qué se realizó el cambio.
“Aunque sentimos que nuestra política anterior nos cubría bien a nosotros y a nuestros consumidores, varias historias recientes (esta no es una historia nueva), y no el contacto de NBC, nos hicieron pensar que una mayor aclaración sería útil”, escribió. “Continuaremos haciendo los cambios apropiados a medida que este campo evolucione y recibamos comentarios, tal como siempre lo hemos hecho”.
Ever AI ha sido mencionado recientemente en Fortune y [Inc](https://www.inc.com/gene-marks/the-dhs-will -usar-reconocimiento-facial-en-97-de-pasajeros-del-aeropuerto-de-salida-en-los-próximos-4-años.html).
Jason Schultz, profesor de derecho en la Universidad de Nueva York, dijo que Ever AI debería hacer más para informar a la aplicación Ever usuarios sobre cómo se utilizan sus fotos. Ocultar ese lenguaje en una política de privacidad de 2500 palabras que la mayoría de los usuarios no lee es insuficiente, dijo.
“Están explotando comercialmente la semejanza de las personas en las fotos para entrenar un producto que se vende a los militares y las fuerzas del orden”, dijo. “La idea de que los usuarios hayan dado un consentimiento real de cualquier tipo es risible”.
‘UNA GRAN INVASIÓN A LA PRIVACIDAD’
Mariah Hall, de 19 años, estudiante de segundo año de Millsaps College en Jackson, Mississippi, ha estado usando Ever durante cinco años para almacenar sus fotos y liberar espacio en su teléfono.
Cuando supo por NBC News que sus fotos se estaban utilizando para entrenar la tecnología de reconocimiento facial, se sorprendió.
“Los desarrolladores de la aplicación no tenían claras sus intenciones ni el uso que harían de mis fotos. Es triste porque creo que es una gran invasión de la privacidad”, escribió en un correo electrónico.
“Si una empresa utiliza la información de sus consumidores para asociarse con cualquier persona (la policía, el FBI), debería ser una de las primeras cosas que se le diga a los consumidores antes de que descarguen la aplicación”.
Evie Mae, de 18 años, del Reino Unido, estuvo de acuerdo. Ella dijo a través de un mensaje directo de Twitter que la idea de que su rostro se usara para desarrollar un producto comercial de reconocimiento facial la hacía "incómoda" y que "definitivamente sería más cuidadosa" sobre dónde sube sus fotos en el futuro.
Cuando NBC News le dijo a Aley que algunos de los clientes de Ever no entendían que sus fotos se estaban utilizando para desarrollar tecnología de reconocimiento facial que eventualmente podría terminar en manos del gobierno, dijo que nunca había escuchado quejas.
“Siempre estamos abiertos a recibir comentarios y, si alguien tiene un problema, puede solucionarlo de una de estas dos maneras: ya no puede ser un usuario de Ever Album y también puede decir que quiere ser un Ever Album. usuario, pero no les gustaría que sus fotos se usaran para entrenar modelos. Esas opciones están disponibles para los consumidores hoy y siempre lo han estado”.
Después de más correspondencia con NBC News, Aley escribió el 30 de abril que la compañía había agregado una nueva función emergente a la aplicación que brinda a los usuarios una manera fácil de optar por que sus imágenes no se usen en la herramienta de reconocimiento facial de la aplicación. La ventana emergente no menciona que la tecnología de reconocimiento facial se está utilizando más allá de la aplicación y se comercializa a empresas privadas y fuerzas del orden.
"Esa característica del producto ha estado disponible anteriormente para los usuarios en ciertas regiones geográficas", escribió Aley, "y ahora la hemos puesto a disposición de todos los usuarios de Ever en todo el mundo, ya sea que sea un requisito legal o no".
CORRECCIÓN (10 de mayo de 2019, 5:26 p. m. ET): una versión anterior de este artículo expresó erróneamente el momento de una inversión de $16 millones en Ever. Esa inversión se realizó en 2016, antes del cambio de Ever a un negocio de reconocimiento facial, no en 2017. Se eliminó del artículo una referencia a la inversión que sugiere que el cambio al reconocimiento facial benefició financieramente a la empresa.