Problema 2801

Hoan Ton-That, director ejecutivo de Clearview AI se sentó con Haga clic aquí para analizar las operaciones de su empresa en Ucrania y las controversias que han perseguido lo que se ha convertido en el sistema de reconocimiento facial más grande del mundo. red. (Él quiere 100 mil millones de imágenes en la base de datos dentro de un año. Eso es casi 13 fotografías para todos en la tierra).

Entre otras cosas, unos 400 investigadores en Ucrania están utilizando Clearview AI para construir casos de crímenes de guerra, identificar a los muertos, tanto rusos como ucranianos, y decirles a las familias en Rusia que sus hijos murieron en la guerra.

No mucho después de que la empresa comenzara a proporcionar inicios de sesión gratuitos para los investigadores ucranianos, una [fuerza de piratería voluntaria llamada Ejército de TI de Ucrania](https://podcasts.apple.com/us/podcast/7-fighting-russia-with-computers- not-rifles/id1225077306?i=1000554821180) parecía utilizar un programa que se parece a Clearview AI para fines similares.

El Ministerio de Transformación Digital de Ucrania confirmó a Haga clic aquí que también está utilizando Clearview para informar a las familias sobre los soldados caídos. Dicen que es en parte para dar a los rusos una idea del verdadero costo de la guerra y en parte para decirles a las familias que si desean recoger los cuerpos de sus seres queridos, pueden viajar a Ucrania para hacerlo.

Hoan Ton-That habló sobre la controversia que rodea a su empresa biométrica, los peligros de usar tecnología en una zona de guerra y qué esperar de Clearview en el futuro.

La entrevista ha sido editada para mayor claridad.

Haga clic aquí: ¿Cómo llegó Clearview a desempeñar un papel tan importante en Ucrania?

Hoan Ton-Eso: Cuando comenzó la guerra, fue realmente impactante para mí y para muchos miembros de nuestro equipo ver especialmente las imágenes de video de mujeres y niños sufriendo y me hizo pensar, ¿cómo podemos ayudar? Originalmente, veía fotos de soldados rusos capturados y me di cuenta de que con ese tipo de calidad fotográfica, nuestra tecnología de reconocimiento facial podría ser útil. Entonces, contacté a muchas personas en nuestro consejo asesor para preguntarles, ¿conocen a alguien en el gobierno ucraniano, y una persona, Lee Wolosky , es en el Consejo de Seguridad Nacional bajo tres presidentes, rápidamente dijo que sí. Pensamos que podría ser útil para identificar soldados fallecidos y rastrear información errónea.

CH: ¿Cómo podría ser útil rastrear la desinformación?

HT-T: Verías muchas cosas en las redes sociales que dicen que este es un soldado ruso capturado, pero es posible que veas a personas del otro lado diciendo que en realidad es un actor pagado y este es el nombre del actor pagado. . Entonces, con esta tecnología, el nivel de precisión se puede usar para identificar si alguien es quien dice ser.

CH: ¿Quién en Ucrania tiene inicios de sesión en Clearview AI?

HT-T: Está en seis agencias diferentes, incluida la Policía Nacional de Ucrania. Entonces la gente en el terreno lo usaría. Entonces, una vez que hicimos una demostración, les capacitamos sobre cómo usar la tecnología de reconocimiento facial de manera responsable. Entonces, parte del entrenamiento es que enviarían fotos de personas no identificadas y las pasarían por el sistema y podríamos mostrarles, 'Oye, así es como verificas quién es'. Entonces, por ejemplo, si tienen un tatuaje que coincide en línea, hay muchas posibilidades de que sea la misma persona.

CH: Usted insertó esta tecnología en una zona de guerra, lo que presenta muchos más problemas que tener un departamento de policía en los Estados Unidos usándolo. ¿Cómo estás contabilizando eso?

HT-T: Debe tener cuidado para asegurarse de que realmente sepan cómo usarlo correctamente, por lo que existen todos estos escenarios en los que queremos asegurarnos de que no sucedan. Por ejemplo, qué pasa si alguien toma una foto de alguien y dice: 'Oye, creo que eres un traidor ruso'. Y luego los detienen. Y todo es incorrecto basado en información incorrecta. Así que nunca querríamos que algo así sucediera. Siempre que estas investigaciones sean realizadas por investigadores capacitados, esta puede ser una herramienta muy útil. Si fue usado por todos, creo que ahí es cuando ocurren los problemas.

CH: ¿Cuál es el uso más sorprendente que has visto en Ucrania?

HT-T: Investigaciones de crímenes de guerra. Hablamos con gente de la Policía Nacional de Ucrania y otros que tienen imágenes de video de las cámaras de vigilancia. Los teléfonos inteligentes son más frecuentes, por lo que hay una mayor probabilidad de que se grabe algo. Ahora, con esta tecnología, si es fácil identificar a alguien, creo que la gente se lo va a pensar dos veces antes de cometer crímenes de guerra. Así que eso fue una sorpresa para mí.

CH: Así que este es un servicio de suscripción, y dices que te da más control si alguien lo está usando mal... ¿cómo funciona Clearview AI?

HT-T: Examinamos a cada persona para asegurarnos de que sea un funcionario del gobierno que lo esté usando. También hay autenticación de dos factores, por lo que todavía tienen que verificar su dispositivo antes de iniciar sesión. Una vez que tienen una cuenta, hay un administrador para cada agencia. Por lo tanto, el administrador puede ver quién realiza búsquedas y por qué motivo realiza la búsqueda. Hay un formulario de admisión que requiere un número de caso y un tipo de delito antes de realizar una búsqueda. Entonces, cuando las personas están a bordo y están aprendiendo sobre el software, saben que sus búsquedas pueden auditarse porque queremos asegurarnos de que lo estén usando para el tipo correcto de cosas. Debido a que es un servicio en la nube, tenemos la capacidad de revocar el acceso. Si hay algún abuso atroz de la tecnología, querrá asegurarse de que tengamos la capacidad de eliminarlo.

**CH: El ejército de TI parece estar usándolo. En un video, el grupo demostró el uso de un programa de reconocimiento facial que parece parecerse a Clearview AI. Esta es una fuerza de piratería voluntaria, entonces, ¿cómo es que el Ejército de TI de Ucrania parece estar usando Clearview AI? **

HT-T: Todo lo que puedo decir es que todos los que hemos incorporado son funcionarios del gobierno. No hemos incorporado a nadie en el Ejército de TI directamente. A todas las personas con las que hablamos y a bordo, les brindamos la capacitación adecuada sobre su uso. La especulación de que el Ejército de TI está ejecutando una búsqueda Clearview AI no coincide con ninguna información que tengamos sobre este asunto. Clearview AI está destinado a ser utilizado en Ucrania por funcionarios gubernamentales y encargados de hacer cumplir la ley.

CH: ¿Quizás alguien le dio un nombre de usuario y contraseña a alguien que está en el ejército de TI?

HT-T: es posible que alguien haya compartido una captura de pantalla o haya compartido cómo funcionó, pero queremos asegurarnos de que cualquiera que sea el uso de la tecnología, por ejemplo, para identificar a alguien fallecido, se haga de una manera eso es positivo La política de la Policía Nacional y de todos nuestros usuarios es decírselo a los familiares de forma humana.

CH: ¿Se te había ocurrido que el Ejército de TI usaría esta tecnología para notificar a las familias de los soldados muertos como herramienta de propaganda?

HT-T: Hablé con algunos de los funcionarios [en el gobierno ruso] y les dije: 'Mira, ¿esto es algo que sabías? ¿Es ese su procedimiento para hacer esto?' Luego dijo que ese no es nuestro procedimiento oficial. Y me aseguraron que eso tampoco es lo que quieren que suceda. Una vez más, es tiempo de guerra. Las tensiones son realmente altas. Esas cosas pueden pasar.

Si pensara que se usaría de una manera realmente mala, entonces no creo que les daría acceso. Creemos que simplemente difundir la información de una manera humana es lo más importante. Lo que podemos controlar como Clearview es dar acceso a las personas adecuadas. Entonces, por ejemplo, no damos acceso a los rusos ni nada por el estilo y nos aseguramos de que Ucrania esté entrenada de la manera más adecuada posible.

CH: ¿Has revocado algún acceso relacionado con Ucrania porque pensabas que no se estaba usando correctamente?

HT-T: No, no en este momento, pero los administradores de estas agencias en Ucrania tienen la capacidad de hacerlo. Pueden ingresar y auditar las búsquedas, eliminar el acceso a una cuenta y dar acceso según lo consideren apropiado. Clearview AI solo revocaría el acceso a una agencia si hubiera una gran cantidad de abuso en esa agencia. Hasta que algo realmente escale a ese nivel, no hemos revocado ningún acceso.

CH: NSO Group es una empresa israelí que fabrica software de vigilancia que se puede implantar de forma remota en teléfonos inteligentes. Ha sido objeto de fuertes críticas porque su tecnología está siendo utilizada por gobiernos autoritarios para espiar a los ciudadanos. Con su tecnología de reconocimiento facial, ¿cómo evita la trampa de la NSO?

HT-T: Creo que NSO es un tipo de tecnología muy diferente a lo que hacemos. Estamos buscando información pública en Internet. Así que es realmente como Google. Si puede escribir el nombre de alguien y la palabra LinkedIn en Google y encuentra su foto, Clearview básicamente puede hacer lo mismo, pero es buscar por foto. También trabajamos con la policía. NSO es diferente porque está accediendo a los teléfonos, datos muy privados. Además, cuando venden su software, no tienen la capacidad de recuperarlo si lo venden al actor o gobierno equivocado. Mientras que el software Clearviews se implementa en la nube. Si alguna vez encontramos algo totalmente atroz o abusivo, tenemos la capacidad de revocar el acceso. También queremos estar alineados con los países democráticos, asegurándonos de que esta sea una tecnología que se pueda usar de manera responsable y en todas las naciones democráticas.

CH: ¿Puedes imaginar un escenario, dentro de años y años, en el que todos tengan esta capacidad que estaría en gafas de realidad virtual o integrada en un teléfono?

HT: Me imagino que la realidad aumentada es interesante cuando se puede implementar en bases militares, por lo que en Afganistán, tenían una situación en la que, cuando se retiraban de un puesto de control, los terroristas podían volar personas. Están mirando de cerca las identificaciones. Para verificar a alguien a distancia con manos libres, creo que es un caso de uso muy positivo.