Problema 2338

Una agencia de seguridad nacional no identificada ha firmado un contrato con una empresa que afirma que puede "revelar" su personalidad "con un alto nivel de precisión" simplemente analizando su rostro, ya sea esa imagen facial capturada a través de una foto, un video transmitido en vivo o almacenada. en una base de datos. Luego clasifica a las personas en categorías; con algunas etiquetas como potencialmente peligrosas como terrorista o pedófilo, es preocupante que algunos expertos crean que la ciencia detrás de esto es anticuada, ha sido desacreditada previamente y los resultados son inexactos.

La empresa emergente israelí Faception, una empresa de perfiles de personalidad facial, [dicho](https://www.washingtonpost.com/news/innovations/wp/2016/05/ 24/terrorista-o-pedófilo-esta-empresa-nueva-dice-que-puede-descifrar-secretos-mediante-el-análisis-de-rostros/) The Washington Post que "una agencia de seguridad nacional" ha firmado un contrato para usar Faception para ayudar detectar terroristas. La "tecnología de visión por computadora y aprendizaje automático" puede incluso integrarse en otra tecnología de reconocimiento facial "para proporcionar una solución de espectro completo que cubra a personas conocidas y anónimas".

El CEO de Faceception, Shai Gilboa, agregó: “Nuestra personalidad está determinada por nuestro ADN y se refleja en nuestra cara. Es una especie de señal”. En el sitio de la compañía, la "ciencia" detrás de la tecnología que supuestamente puede predecir el comportamiento y la personalidad de una persona fue [descrita como] (http://www.faception.com/#!about-us/volwt):

• Según la investigación de Ciencias Sociales y de la Vida, las personalidades se ven afectadas por los genes.
• Nuestro rostro es un reflejo de nuestro ADN.

Las personas pueden juzgar a otras personas por sus rostros, pero la "ciencia" de juzgar un libro por su portada a través de la lectura de rostros o fisonomía, fue básicamente "[desacreditada y rechazada] (https://en.wikipedia.org/wiki/Physiognomy #Period_of_popularity)” a finales del siglo XIX. Una cosa es que una persona emita un juicio instantáneo basado en la apariencia y otra completamente diferente usar Faception para "enriquecer su base de datos de perfil con una variedad de puntajes de personalidad" y "convertir a personas desconocidas en personas conocidas".

Como Pedro Domingos, profesor de ciencias de la computación en la Universidad de Washington, señaló al Post: “¿Puedo predecir que eres un asesino con hacha al mirarte a la cara y, por lo tanto, debería arrestarte? Puedes ver cómo esto sería controvertido”.

El profesor de psicología de Princeton, Alexander Todorov, le dijo al Post: “La evidencia de que estos juicios son precisos es extremadamente débil. Justo cuando pensábamos que la fisonomía terminó hace 100 años”.

“Faception ha construido 15 clasificadores diferentes”, informó el Post, y supuestamente puede evaluar ciertos rasgos con un “80% de precisión”. Dicho de otra manera, una de cada cinco personas podría ser clasificada incorrectamente como terrorista o pedófilo. Gilboa dijo que la compañía “nunca pondrá a disposición del público en general sus clasificadores que predicen rasgos negativos”.

[Ocho clasificadores] (http://www.faception.com/#!our-technology/c1dmp) se enumeran en el sitio de Faception: High Q, investigador académico, jugador de póquer profesional, jugador de bingo, promotor de marca, delincuente de cuello blanco , terrorista y pedófilo. “Los clasificadores representan una determinada persona, con un tipo de personalidad único, una colección de rasgos de personalidad o comportamientos”. Los algoritmos se utilizan para clasificar a las personas según cómo encajan en esos clasificadores.

Por ejemplo, la compañía clasifica a un "jugador de bingo" como "dotado de un alto techo mental, alta concentración, audacia y fuertes habilidades analíticas". Tiende a ser creativo, con una alta originalidad e imaginación, alta conservación y sentidos agudos.”

La “búsqueda de emociones” se menciona en el clasificador “terrorista”. Las emociones vienen en todas las formas y tamaños, ¿verdad? Lástima el alma adicta a la adrenalina incorrectamente identificada como terrorista.

La compañía afirma historias de "éxito" como identificar correctamente a cuatro jugadores de póquer de los 50 que compiten en un torneo. Al final, dos de los cuatro jugadores previstos resultaron finalistas. Faception [afirma] (http://www.faception.com/#!hls-and-public-safety/jr7rc) que su tecnología clasificó a nueve de los 11 terroristas de París "sin conocimiento previo" y solo tres de esos terroristas tenían un récord anterior. Supuestamente es por eso que está “trabajando con la principal Agencia de Seguridad Nacional”, según su video de marketing.

Si bien Faception no es exactamente lo mismo, me recordó [la evaluación previa al delito de Seguridad Nacional] (https://www.computerworld.com/article/2469953/endpoint-security/homeland-security-testing-mind-reading-terrorist --pre-crime--detectors.html) denominado FAST para tecnología de detección de atributos futuros (pdf); FAST ha sido comparado con Minority Report ya que fue diseñado "para 'detectar' y detectar a las personas que tienen la intención de cometer un acto terrorista".

Al igual que FAST, Faception cree que es “posible saber si un individuo es un terrorista potencial, una persona agresiva o un delincuente."

A diferencia de Faception, FAST analiza mucho más que el rostro. Según se informa, analiza las expresiones faciales y utiliza rastreadores para medir las pupilas, la posición y la mirada de los ojos, pero también mide la frecuencia cardíaca y respiratoria, analiza el movimiento corporal, los cambios de calor corporal y los cambios de tono en las voces.

EPIC (Electronic Privacy Information Center) ha estado tratando de obtener más información del DHS sobre FAST desde 2011. Ese mismo año en DefCon, los investigadores sugirieron FAST olía a aceite de serpiente de seguridad y explicaba por qué no funcionaría ([pdf](https://www .defcon.org/images/defcon-19/dc-19-presentations/Rezchikov-Wang-Engelman/DEFCON-19-Rezchikov-Wang-Engelman-Airport-Security-WP.pdf)). Esperemos que la agencia de seguridad nacional no identificada que firmó un [contrato de $ 750,000] (http://www.snapmunk.com/facial-personality-profiling-software-faception-makes-500-startups-batch-16/) con Faception no DHS.

China también ha jugado con [“antes del crimen” para identificar a los terroristas] (http://www.bloomberg.com/news/articles/2016-03-03/china-tries-its-hand-at-pre-crime) ; China siendo China, cabe preguntarse si disidente es sinónimo de terrorista. Su “Citizen Score” ya es una [pesadilla orwelliana](https://www.computerworld.com/article/2990203/security/aclu-orwellian-citizen-score-chinas-credit-score-system-is-a-warning -para-americanos.html).

Es posible que la falsificación no esté destinada al público en general, pero el "análisis de personas anónimas que pueden representar una amenaza para la seguridad pública" podría incluirse en la aplicación de la ley como en "seguridad nacional", IA, [robots personales] (http://www. faception.com/#!personal-robots-1/h1ile), así como para “seguridad pública” en edificios, centros comerciales, estadios y corporaciones, y se utiliza en comercio minorista, seguros, reclutamiento, finanzas e incluso emparejamiento.

Faception [enumera] (http://faception.com/) Sears y Manpower como algunos de sus clientes, afirmando que también puede "predecir el comportamiento en línea" para encontrar a los "usuarios que mejor pagan".