Incidentes Asociados
“Haz recuerdos”: ese es el eslogan en el sitio web de la aplicación de almacenamiento de fotos Ever, acompañado de un logotipo en cursiva y un álbum de ejemplo titulado “Fin de semana con el abuelo”.
Todo sobre la marca de Ever es cálido y confuso, sobre compartir sus "mejores momentos" mientras libera espacio en su teléfono.
Lo que no es obvio en el sitio web o la aplicación de Ever, excepto por una breve referencia que se agregó a la política de privacidad después de que NBC News se comunicó con la empresa en abril, es que las fotos que comparte la gente se utilizan para entrenar el sistema de reconocimiento facial de la empresa. y que Ever luego ofrece vender esa tecnología a empresas privadas, fuerzas del orden y militares.
En otras palabras, lo que comenzó en 2013 como otra aplicación de almacenamiento en la nube se ha convertido en un negocio mucho más lucrativo conocido como Ever AI, sin informar a los millones de usuarios de la aplicación.
“Esto parece una violación atroz de la privacidad de las personas”, dijo Jacob Snow, abogado de tecnología y libertades civiles de la Unión Estadounidense de Libertades Civiles del Norte de California. “Están tomando imágenes de las familias de las personas, fotos de una aplicación de fotos privadas y usándolas para construir tecnología de vigilancia. Eso es muy preocupante”.
Doug Aley, CEO de Ever, le dijo a NBC News que Ever AI no comparte las fotos ni ninguna información de identificación sobre los usuarios con sus clientes de reconocimiento facial.
Más bien, los miles de millones de imágenes se utilizan para instruir a un algoritmo sobre cómo identificar rostros. Cada vez que los usuarios de Ever activan el reconocimiento facial en sus fotos para agrupar imágenes de las mismas personas, la tecnología de reconocimiento facial de Ever aprende de las coincidencias y se entrena sola. Ese conocimiento, a su vez, impulsa los productos comerciales de reconocimiento facial de la empresa.
Aley también dijo que Ever tiene claro con los usuarios que el reconocimiento facial es parte de la misión de la empresa y señaló que se menciona en la política de privacidad de la aplicación. (Esa política se actualizó el 15 de abril con más información sobre cómo la empresa usa las fotos de sus clientes).
Hay muchas empresas que ofrecen productos y servicios de reconocimiento facial, incluidas Amazon, Microsoft y FaceFirst. Todas esas empresas necesitan acceso a enormes bases de datos de fotos para mejorar la precisión de su tecnología de comparación. Pero aunque la mayoría de los algoritmos de reconocimiento facial están entrenados en conjuntos de datos bien establecidos que circulan públicamente, algunos de los cuales también han enfrentado críticas por tomar fotos de personas sin su consentimiento explícito, Ever es diferente al usar las fotos de sus propios clientes para mejorar su tecnología comercial.
El uso de fotos de personas desprevenidas por parte de las empresas de reconocimiento facial ha generado una creciente preocupación entre los expertos en privacidad y los defensores de los derechos civiles. Señalaron en entrevistas que millones de personas suben y comparten fotos e información personal en línea sin darse cuenta de cómo las imágenes podrían usarse para desarrollar productos de vigilancia que quizás no admitan.
En el sitio web de Ever AI, la compañía alienta a las agencias públicas a usar la "tecnología de Ever para brindar a sus ciudadanos y al personal encargado de hacer cumplir la ley el más alto grado de protección contra el crimen, la violencia y la injusticia".
El sitio web de Ever AI no menciona las instantáneas de los "mejores momentos". En cambio, en comunicados de prensa, describe cómo la compañía posee un "conjunto de datos global privado en constante expansión de 13 mil millones de fotos y videos" de lo que la compañía dijo que son decenas de millones de usuarios en 95 países. Ever AI usa las fotos para ofrecer "la mejor tecnología de reconocimiento facial de su clase", dice la compañía, que puede estimar la emoción, el origen étnico, el género y la edad. Aley confirmó en una entrevista que esas fotos provienen de los usuarios de la aplicación Ever.
Ever AI promete a los posibles clientes militares que puede "mejorar las capacidades de vigilancia" e "identificar y actuar sobre las amenazas". Ofrece a las fuerzas del orden la capacidad de identificar rostros en grabaciones de cámaras corporales o transmisiones de video en vivo.
Hasta ahora, Ever AI ha obtenido contratos solo con empresas privadas, incluido un acuerdo anunciado el año pasado con SoftBank Robotics, creadores del robot "Pepper", un robot de servicio al cliente diseñado para ser utilizado en entornos de hostelería y comercio minorista. Ever AI no ha registrado ninguna agencia de seguridad nacional, militar o policial.
Sarah Puchinsky-Roxey, de 22 años, de Lemoore, California, usó una palabrota cuando le hablaron por teléfono sobre el negocio de reconocimiento facial de la empresa. “No estaba al tanto de ningún reconocimiento facial en la aplicación Ever”, Roxey, una fotógrafa, envió un correo electrónico más tarde, señalando que había usado la aplicación durante varios años. “Lo cual es un poco espeluznante ya que tengo fotos de mis hijos allí y de amigos que nunca han dado su consentimiento para este tipo de cosas”.
Ella dijo que encontró que las prácticas de la compañía eran "invasivas" y ahora eliminó la aplicación.
UN NUEVO MODELO DE NEGOCIO
Aley, quien se unió a Ever en 2016, dijo en una entrevista telefónica que la compañía decidió explorar el reconocimiento facial hace aproximadamente dos años y medio cuando él y otros líderes de la compañía se dieron cuenta de que una aplicación de fotos gratuita con algunas pequeñas funciones premium pagadas “ no iba a ser un negocio a escala de riesgo”.
Aley dijo que tener un "corpus" tan grande de más de 13 mil millones de imágenes fue increíblemente valioso para desarrollar un sistema de reconocimiento facial.
“Si puede alimentar un sistema con muchos millones de caras, ese sistema terminará siendo mejor y más preciso en el otro lado de eso”, dijo.
Una prueba de evaluación comparativa de la industria encontró el año pasado que la tecnología de reconocimiento facial de Ever AI tiene una precisión del 99,85 por ciento en la comparación de rostros.
Cuando se le preguntó si la empresa podría explicar mejor a los usuarios de Ever que la tecnología de la aplicación potencia la IA de Ever, Aley dijo que no.
“Creo que nuestra política de privacidad y términos de servicio son muy claros y están bien articulados”, agregó. “No usan ninguna jerga legal”.
Después de que NBC News le preguntó a la compañía en abril si los usuarios habían dado su consentimiento para que sus fotos se usaran para entrenar el software de reconocimiento facial que podría venderse a la policía y al ejército, la compañía publicó una política de privacidad actualizada en el sitio web de la aplicación.
Anteriormente, la política de privacidad explicaba que la tecnología de reconocimiento facial se usaba para ayudar a "organizar sus archivos y permitirle compartirlos con las personas adecuadas". La aplicación tiene una función de etiquetado facial opcional muy parecida a Facebook que permite a los usuarios buscar amigos o familiares específicos que usan la aplicación.
En la política de privacidad anterior, la única indicación de que las fotos se usarían para otro propósito era una sola línea: "Sus archivos pueden usarse para ayudar a mejorar y capacitar nuestros productos y estas tecnologías".
El 15 de abril, una semana después de que NBC News contactara a Ever por primera vez, la compañía agregó una oración para explicar qué significaba "nuestros productos".
"Algunas de estas tecnologías pueden usarse en nuestros productos y servicios separados para clientes empresariales, incluidas nuestras ofertas de reconocimiento facial empresarial, pero sus archivos e información personal no lo serán", establece ahora la política.
En un correo electrónico, Aley explicó por qué se realizó el cambio.
“Aunque sentimos que nuestra política anterior nos cubría bien a nosotros y a nuestros consumidores, varias historias recientes (esta no es una historia nueva), y no el contacto de NBC, nos hicieron pensar que una mayor aclaración sería útil”, escribió. “Continuaremos haciendo los cambios apropiados a medida que este campo evolucione y recibamos comentarios, tal como siempre lo hemos hecho”.
Ever AI se ha mencionado recientemente en Fortune and Inc.
Jason Schultz, profesor de derecho en la Universidad de Nueva York, dijo que Ever AI debería hacer más para informar a los usuarios de la aplicación Ever sobre cómo se usan sus fotos. Ocultar ese lenguaje en una política de privacidad de 2500 palabras que la mayoría de los usuarios no lee es insuficiente, dijo.
“Están explotando comercialmente la semejanza de las personas en las fotos para entrenar un producto que se vende a los militares y las fuerzas del orden”, dijo. “La idea de que los usuarios hayan dado un consentimiento real de cualquier tipo es risible”.
‘UNA GRAN INVASIÓN A LA PRIVACIDAD’
Mariah Hall, de 19 años, estudiante de segundo año de Millsaps College en Jackson, Mississippi, ha estado usando Ever durante cinco años para almacenar sus fotos y liberar espacio en su teléfono.
Cuando supo por NBC News que sus fotos se estaban utilizando para entrenar la tecnología de reconocimiento facial, se sorprendió.
“Los desarrolladores de la aplicación no tenían claras sus intenciones ni el uso que harían de mis fotos. Es triste porque creo que es una gran invasión de la privacidad”, escribió en un correo electrónico.
“Si una empresa utiliza la información de sus consumidores para asociarse con cualquier persona (la policía, el FBI), debería ser una de las primeras cosas que se le diga a los consumidores antes de que descarguen la aplicación”.
Evie Mae, de 18 años, del Reino Unido, estuvo de acuerdo. Ella dijo a través de un mensaje directo de Twitter que la idea de que su rostro se usara para desarrollar un producto comercial de reconocimiento facial la hacía "incómoda" y que "definitivamente sería más cuidadosa" sobre dónde sube sus fotos en el futuro.
Cuando NBC News le dijo a Aley que algunos de los clientes de Ever no entendían que sus fotos se estaban utilizando para desarrollar tecnología de reconocimiento facial que eventualmente podría terminar en manos del gobierno, dijo que nunca había escuchado quejas.
“Siempre estamos abiertos a recibir comentarios y, si alguien tiene un problema, puede solucionarlo de una de estas dos maneras: ya no puede ser un usuario de Ever Album y también puede decir que quiere ser un Ever Album. usuario, pero no les gustaría que sus fotos se usaran para entrenar modelos. Esas opciones están disponibles para los consumidores hoy y siempre lo han estado”.
Después de más correspondencia con NBC News, Aley escribió el 30 de abril que la compañía había agregado una nueva función emergente a la aplicación que brinda a los usuarios una manera fácil de optar por que sus imágenes no se usen en la herramienta de reconocimiento facial de la aplicación. La ventana emergente no menciona que la tecnología de reconocimiento facial se está utilizando más allá de la aplicación y se comercializa a empresas privadas y fuerzas del orden.
"Esa característica del producto ha estado disponible anteriormente para los usuarios en ciertas regiones geográficas", escribió Aley, "y ahora la hemos puesto a disposición de todos los usuarios de Ever en todo el mundo, ya sea que sea un requisito legal o no".
CORRECCIÓN (10 de mayo de 2019, 5:26 p. m. ET): una versión anterior de este artículo expresó erróneamente el momento de una inversión de $ 16 millones en Ever. Esa inversión se realizó en 2016, antes del cambio de Ever a un negocio de reconocimiento facial, no en 2017. Se eliminó del artículo una referencia a la inversión que sugiere que el cambio al reconocimiento facial benefició financieramente a la empresa.