Incidentes Asociados
PimEyes se ha convertido en un éxito entre los "creeps" digitales y otros ansiosos por investigar a los extraños. Los investigadores temen que no haya forma de evitar que se abuse de él. El sitio de reconocimiento facial PimEyes es una de las herramientas de búsqueda de rostros más capaces del planeta. En menos de un segundo, puede escanear más de 900 millones de imágenes de Internet y encontrar coincidencias con una precisión asombrosa. Pero su rasgo más distintivo es quién puede usarlo: Cualquiera. Si bien la mayoría de las herramientas de reconocimiento facial están reservadas para uso policial o gubernamental, PimEyes está abierto a las masas, ya sea que estén persiguiendo a los sospechosos de disturbios en el Capitolio de los EE. UU. o acechando a las mujeres en la Web. La herramienta de búsqueda se encuentra en la frontera de una nueva era de vigilancia de reconocimiento facial: poderosamente sofisticada y disponible para todos, con capacidades adicionales para quienes pagan. Y sin la supervisión pública o las reglas gubernamentales que controlan el uso del reconocimiento facial, los investigadores esperan que los sitios como PimEyes se multipliquen, aprovechando la gran cantidad de fotos y videos de Internet, y haciendo posible que extraños controlen la vida personal de las personas. “¿Qué los detiene? Literalmente nada”, dijo Stephanie Hare, investigadora de tecnología en Londres. “Las personas que subieron esas fotos a Internet —con sus hijos, sus padres, las personas que podrían ser vulnerables en su vida— no lo hacían para alimentar una base de datos que las empresas pudieran monetizar”, dijo. No hay una forma clara de contraatacar, agregó: “Puedo dejar mi teléfono en casa. Lo que no puedo dejar es mi cara”. El reconocimiento facial se ha convertido en una herramienta de investigación cada vez más extendida para las autoridades gubernamentales y las fuerzas del orden; aeropuertos, tiendas y escuelas también lo utilizan para verificar la identidad de los visitantes y aumentar la seguridad. Pero PimEyes ha facilitado más que nunca que el público en general aproveche su poder de inteligencia artificial: cuando un usuario envía una foto del rostro de alguien, el sitio devolverá un catálogo de imágenes vinculadas a otros lugares donde esa persona aparece en la Web, incluidos vídeos antiguos, noticias, álbumes de fotos y blogs personales. Los resultados de la búsqueda no incluyen nombres exactos, pero ofrecen un detalle y una precisión que ha dejado atónitas a algunas personas. Pete, un hombre de 40 años en Alemania que pidió que solo se usara su nombre de pila, dijo que publicó una foto de sí mismo de 17 años bebiendo una cerveza en un tren y se quedó impresionado cuando devolvió un enlace a un video reciente de él en YouTube. “¿Cómo funcionó? Soy mayor, es una expresión facial diferente, incluso una posición diferente de mi cabeza”, dijo, comparando las dos fotos. “Es muy espeluznante y demasiado poderoso. Esto no debería estar en el público, disponible para todos”. PimEyes dice en su "manifiesto" en línea que cree que buscar el rostro de uno en línea debe ser un derecho humano básico abierto a todos, no solo a las corporaciones y los gobiernos, y que el trabajo de la compañía es, contradictoriamente, una bendición para la privacidad. PimEyes vende paquetes de suscripción a personas que desean saber dónde se han publicado sus fotos en línea o recibir alertas cuando se publican en otro lugar. Aunque han creado un motor de búsqueda dedicado a desentrañar misterios en línea, los desarrolladores no dirán prácticamente nada sobre ellos mismos. Un representante de la empresa, que se negó a compartir su nombre, dijo que solo hablarían por correo electrónico y pidió que se le mencionara solo como "el director", se negó a responder preguntas sobre cómo funciona PimEyes, quién está involucrado con la empresa o incluso donde se encuentra la empresa. “Permanecer completamente en el anonimato es muy importante para nosotros”, dijo el director. La empresa se ha defendido de las críticas y de las leyes de privacidad de datos como el Reglamento General de Protección de Datos de la Unión Europea, que restringe el uso del reconocimiento facial, diciendo que solo lo pueden usar las personas que suben sus propias imágenes. Pero PimEyes hace cumplir esa regla con una sola casilla de verificación en la que cualquiera puede hacer clic fácilmente para eludir. La compañía no tiene otras reglas establecidas para evitar que alguien explore la Web en busca de otra persona. “El recurso más valioso es la información… [y] permitimos que las personas encuentren, controlen y protejan información sobre sí mismos”, dijo el director. “No alentamos a las personas a buscar a otras personas, es su propia decisión romper las reglas”. La herramienta se ha vuelto muy popular entre los extraños que buscan "esencialmente acechar" a las mujeres en la Web, dijo Aaron DeVera, investigador de seguridad en Nueva York. En 4chan y otros foros anónimos, los suscriptores de PimEyes con capacidades de búsqueda más profundas que los usuarios que no pagan (las suscripciones comienzan en alrededor de $ 30 por mes) crean rutinariamente hilos que ofrecen buscar cualquier foto y transmitir los resultados. Casi todas las fotos son de niñas y mujeres jóvenes extraídas de sus cuentas de redes sociales, sus perfiles de aplicaciones de citas o "creepshots" fotografiadas sigilosamente sin su consentimiento. Las personas que buscan a menudo esperan encontrar otras fotos o conocer más detalles personales “para poder seguir usándolas”, agregó DeVera: “Algo como esto que está tan listo para usar realmente reduce la barrera de entrada para la actividad nefasta. ” En un hilo de PimEyes en 4chan de octubre, un usuario anónimo publicó un collage digital, titulado "Exposición completa" y el nombre de una mujer, lleno de detalles confidenciales de su vida personal. No estaba claro si PimEyes había sacado a la luz todas las fotos o si eran todas de la misma mujer. Pero el collage era aterradoramente completo, incluidas fotos de ella parada en el salón de clases de la escuela secundaria donde enseña, su licencia de conducir, insignia de la escuela, anuncio de boda, el exterior de su casa y la dirección de su casa. (La mujer, a través de su esposo, se negó a comentar). El director dijo que no se debe culpar a PimEyes por la forma en que la gente lo usa en un foro como 4chan: "Probablemente encontrará contenido allí que muestre cómo usar Google, un auto , o simplemente un plato o cualquier otra herramienta para lastimar a alguien”. La mayoría de las herramientas de reconocimiento facial, como Clearview AI, buscan coincidencias con una imagen entre las fotos en una base de datos gigante. Pero PimEyes funciona más como Google, usando bots conocidos como “arañas” para rastrear la Web, escaneando fotos de caras y luego grabando esas imágenes como código numérico. Si luego se muestra a la herramienta de búsqueda una foto que se parece a una de esas imágenes, devolverá un enlace directo a donde se puede encontrar la imagen. PimEyes dijo el año pasado en una página web eliminada que había analizado 900 millones de rostros únicos, casi tres veces la población de EE. UU., de 150 millones de sitios web y procesado 1 terabyte de imágenes todos los días. PimEyes dijo que no busca imágenes en las redes sociales, pero las fotos de esos sitios se encuentran regularmente entre los resultados, y en una prueba realizada el año pasado por el blog alemán de derechos digitales Netzpolitik, los periodistas dijeron que encontraron resultados de Instagram, YouTube, Twitter y TikTok. . La compañía no ofreció una explicación, escribieron los periodistas, y agregaron: “Cuanto más confrontamos a PimEyes con preguntas, más se contradice la compañía”. Sin embargo, los bots de PimEyes catalogan las imágenes en sitios web pornográficos, y las personas que han usado el sitio dijeron que a menudo se han topado con esos resultados similares al buscar a otra persona. El director de la compañía dijo que el sitio escanea imágenes pornográficas para que sus clientes puedan encontrar publicaciones pornográficas de "venganza" no consensuadas o intentar "borrar los errores de la juventud". Un cliente que crea contenido sexual, agregó el director, usa la herramienta para encontrar sitios web que roban su trabajo. Lanzado en 2017 por una empresa emergente polaca, PimEyes se anuncia a sí mismo como "una herramienta avanzada de autocontrol, autoprotección y gestión de la propia imagen". Un blog polaco en 2019 dijo que el sitio fue iniciado por dos graduados de la Universidad de Ciencia y Tecnología de Wrocław, Lukasz Kowalczyk y Denis Tatina, quienes lo crearon como un proyecto de pasatiempo y luego lo monetizaron al ver el interés de los usuarios, el mayor de los cuales, dijeron, venían de los Estados Unidos. En 2020, la marca PimEyes se transfirió a Face Recognition Solutions Ltd., una empresa sin presencia real en línea y con una dirección corporativa registrada en una sola habitación en las Seychelles, la nación insular del océano Índico que se ha convertido en un popular refugio en alta mar para empresas que desean ocultar su propiedad y detalles corporativos. La misma sala también figura como dirección registrada para nuevas empresas en publicidad, finanzas y criptomonedas, según muestran los registros corporativos. El director de PimEyes dijo que la compañía eligió Seychelles “por el buen ambiente de incorporación”. El director también ofreció poco sobre cómo funcionan los algoritmos de reconocimiento facial de PimEyes, y solo dijo que están "construidos internamente". Se han desarrollado cientos de algoritmos de este tipo en todo el mundo, cada uno con diferentes características y tasas de error que pueden afectar su funcionamiento: en una prueba federal de 2019, los algoritmos menos precisos tenían hasta 100 veces más probabilidades de identificar erróneamente a las personas de color. Los usuarios se sorprendieron cuando PimEyes encontró no solo sus propias fotos, sino también fotos en las que ni siquiera se habían dado cuenta de que habían sido capturados. en el que parecía que se había quedado dormido durante una conferencia de prensa. Otro hombre dijo que el sitio había encontrado una foto suya de hace 25 años. Algunos también se alarmaron por la facilidad de uso: un hombre tuiteó que había tomado capturas de pantalla de los rostros de las personas durante las llamadas de Zoom, luego las pasó a través de PimEyes y dijo que "los resultados fueron sorprendentes". Si hubiera querido, agregó, podría haber pagado para recibir notificaciones cada vez que una nueva foto de ellos se pusiera en línea. Sin embargo, el servicio podría sufrir los mismos problemas que afectan a muchas herramientas de reconocimiento facial, incluidas grandes variaciones en la precisión según el color de piel de la persona buscada. Algunos usuarios de Twitter se han quejado de que el motor de búsqueda solo devuelve actores pornográficos que no se parecen en nada a ellos. La compañía se negó a responder preguntas sobre su equipo de desarrollo, finanzas, base de clientes, índice de fotografías y planes de expansión. En marzo, la compañía ofreció conectar a The Washington Post con algunos de sus clientes, diciendo que “tenemos muchos clientes que están satisfechos con nuestro servicio”, pero después de varias semanas cambió de rumbo y dijo que ninguno aceptaría hablar. “Ayudamos a nuestros clientes a resolver casos delicados, por lo que es posible que no estén dispuestos a compartir sus historias”, dijo el director. Cualquier usuario de PimEyes puede ver algunos resultados de búsqueda limitados. Pero solo los suscriptores de pago "Premium" pueden realizar búsquedas ilimitadas, desbloquear los detalles completos de la imagen y recibir alertas por correo electrónico cada vez que el sitio detecta una cara que han subido a otro lugar en la Web. Por $29,99 al mes, un usuario puede buscar 25 veces al día, mientras que $299,99 al mes puede desbloquear búsquedas ilimitadas. Una calculadora de precios en línea sugiere que algunos usuarios pueden querer realizar hasta 100 millones de búsquedas al mes, un número gigantesco para una empresa que dice que los usuarios solo deben buscar sus propias imágenes. PimEyes se ha anunciado a sí mismo como una herramienta de investigación policial, diciendo el año pasado en una publicación eliminada que "participa activamente en la lucha contra el crimen en línea". Pero el director de la empresa dijo que ninguno de sus clientes son organismos encargados de hacer cumplir la ley. Sin embargo, esa afirmación de lucha contra el crimen, dijo el director, es "cierta de alguna manera" porque la herramienta se puede usar para encontrar imágenes usadas ilegalmente. PimEyes permite que cualquier persona solicite la eliminación de una foto mediante un formulario en línea, una imagen a la vez. Pero para bloquear completamente esas fotos para que no aparezcan en los resultados de búsqueda de PimEyes, un usuario debe pagar $ 79.99 al mes por el paquete "PROtect"; en esencia, pagar a la misma compañía que descubrió las imágenes para que también las elimine. El uso generalizado de PimEyes en la persecución de los alborotadores del Capitolio, por parte de un colectivo en línea de "cazadores de sedición" de colaboración colectiva, también ha preocupado a investigadores como Hare, el investigador de tecnología, que creía que podría usarse de manera indebida fácilmente para apuntar a las personas equivocadas o convertir a los detectives no capacitados en detectives digitales. vigilantes “¿Los ciudadanos son policías? No. Pero herramientas como estas pueden convertir a cualquiera en policía”, dijo. “Si le das a la gente algo que pueda usarse como una herramienta de vigilancia, la gente lo usará como tal y no sentirán la necesidad de tener una conversación ética al respecto”. Una herramienta para el trabajo de detective aficionado, agregó Hare, también puede transformarse fácilmente en un arma de vigilancia estatal. Antes de PimEyes, existía FindFace, un motor de búsqueda de rostros similar desarrollado por la empresa emergente de tecnología de Moscú NtechLab. Las autoridades rusas ahora usan el software para rastrear a activistas de la oposición, periodistas, manifestantes y otras personas capturadas por las más de 189,000 cámaras de Moscú. PimEyes dijo que los casos de abuso vinculados a la herramienta de búsqueda no fueron culpa de la empresa y agregó que cualquier "servicio puede usarse en contra del propósito para el que fue creado". De los “cazadores de sedición”, el director dijo: “Las personas que hicieron mal uso de nuestro motor de búsqueda lo hicieron por una buena causa, pero eso no significa que no enfrentarán las consecuencias de sus acciones”. Pero incluso algunos fanáticos del servicio piensan que va demasiado lejos. Conor Nolan, un investigador fotográfico en Londres, pasó horas en PimEyes tratando de identificar a los miembros de la mafia que asaltaron el Capitolio de EE. UU. el 6 de enero, creyendo que la información podría resultar invaluable para el FBI. En una de sus primeras búsquedas, PimEyes señaló la foto policial de un sospechoso de hace una década: un avance de investigación en un solo clic. Nolan dijo que es aterradoramente precisa y "una tecnología con la que no me siento nada cómodo", y agregó que cree que los gobiernos deberían regular tales herramientas antes de que estén disponibles para el público en general. Pero mientras tanto, dijo, tiene la intención de seguir usándolo, simplemente porque funciona muy bien. “Aparte de la ética, valió la pena”, dijo Nolan. “Lo usaría de nuevo si tuviera la necesidad.” En los EE. UU., PimEyes y otras empresas de reconocimiento facial tienen pocas leyes de las que preocuparse. Si bien los miembros del Congreso de ambos partidos han hablado sobre congelar el uso de la tecnología por parte del gobierno, y los supervisores federales de la Oficina de Responsabilidad Gubernamental los instaron el año pasado a fortalecer las leyes de escaneo facial, el negocio aún no está regulado en absoluto a nivel nacional. Media docena de estados y aproximadamente dos docenas de ciudades han prohibido o restringido la tecnología para uso público; otra docena de legislaturas estatales están programadas para discutir proyectos de ley similares este año. Pero dicha legislación casi siempre aborda el uso por parte de la policía o las autoridades públicas, no de empresas o particulares. Ese vacío regulatorio ha llevado incluso a los mayores desarrolladores de la tecnología a pedir leyes más estrictas: el verano pasado, Amazon detuvo su venta de tecnología de reconocimiento facial a la policía durante un año para dar a los legisladores "tiempo suficiente para implementar las reglas apropiadas", mientras que Microsoft dijo que no vendería la tecnología a la policía hasta que se promulgue una ley federal que esté “basada en los derechos humanos”. Algunos investigadores de IA esperan que PimEyes no sea el último sitio en intentar una búsqueda facial ilimitada. El auge de la IA de "código abierto" ha permitido a los desarrolladores externos integrar fácilmente el software de reconocimiento facial en sus propias aplicaciones: con suficiente poder de cómputo, cualquiera puede usarlos para jugar con los aparentemente infinitos datos de fotos y videos de la Web. Un científico de datos de IA que usa el nombre en línea "Patr10tic", que habló en una entrevista telefónica bajo condición de anonimato para hablar con franqueza sobre el desarrollo de herramientas similares, dijo que la funcionalidad de PimEyes se puede imitar de cerca usando herramientas disponibles gratuitamente como FaceNet, una red abierta. sistema de reconocimiento facial de fuente desarrollado por investigadores de Google en 2015 y ahora ampliamente emulado en la Web. Después del asedio al Capitolio, utilizó una herramienta de "extracción de rostros" de código abierto para extraer imágenes faciales de más de 40,000 videos subidos a la red social Parler, fuertemente pro-Trump. Luego construyó un mapa de grupo de esos rostros, así como un mapa de ubicación detallado que señala dónde se habían hecho los videos por primera vez. Los desarrolladores, dijo, tienen el "deber real" de construir herramientas con protecciones contra su propio uso indebido. Pero no le sorprende que tales usos de IA se estén expandiendo rápidamente, y cree que, en muchos casos, ya es demasiado tarde para controlar un tipo de tecnología que prolifera ampliamente en todo el mundo. “No podrá evitar que las personas ‘exploren’ la Web por su cuenta y usen código de fuente abierta para construir canalizaciones como esta. Es simplemente imposible de hacer cumplir”, dijo. “Ahí es donde va el mundo. Al igual que los físicos de la década de 1940, ya podemos crear efectivamente un Proyecto Manhattan. Todas estas herramientas se pueden usar, por así decirlo, para la paz o para la guerra”.