Problème 2338
Une agence de sécurité intérieure anonyme a signé un contrat avec une entreprise qui prétend pouvoir «révéler» votre personnalité «avec un haut niveau de précision» simplement en analysant votre visage, qu'il s'agisse d'une image faciale capturée via une photo, une vidéo en direct ou stockée dans une base de données. Il trie ensuite les personnes en catégories ; avec certaines étiquettes potentiellement dangereuses telles que terroriste ou pédophile, il est inquiétant que certains experts pensent que la science sous-jacente est obsolète, a déjà été discréditée et que les résultats sont inexacts.
La start-up israélienne Faception, une société de profilage de la personnalité faciale, [raconté](https://www.washingtonpost.com/news/innovations/wp/2016/05/ 24/terroriste-ou-pédophile-cette-start-up-dit-qu'elle-peut-révéler-des-secrets-en-analysant-des-visages/) Le Washington Post qu'"une agence de sécurité intérieure" a signé un contrat pour utiliser Faception pour aider repérer les terroristes. La "technologie de vision par ordinateur et d'apprentissage automatique" peut même être intégrée à d'autres technologies de reconnaissance faciale "pour fournir une solution à spectre complet qui couvre les individus connus et anonymes".
Le PDG de Faceception, Shai Gilboa, a ajouté : « Notre personnalité est déterminée par notre ADN et se reflète dans notre visage. C'est une sorte de signal. » Sur le site de l'entreprise, la « science » derrière la technologie qui peut soi-disant prédire le comportement et la personnalité d'une personne était [décrit comme] (http://www.faception.com/#!about-us/volwt) :
- Selon les recherches en sciences sociales et de la vie, les personnalités sont affectées par les gènes.
- Notre visage est le reflet de notre ADN.
Les gens peuvent juger les autres par leur visage, mais la "science" de juger un livre par sa couverture via la lecture du visage, ou la physionomie, était fondamentalement "[discréditée et rejetée] (https://en.wikipedia.org/wiki/Physiognomy #Period_of_popularity) » à la fin du 19e siècle. C'est une chose pour une personne de porter un jugement rapide sur la base de son apparence et une autre chose d'utiliser Faception pour "enrichir votre base de données de profils avec une variété de scores de personnalité" et "transformer des individus inconnus en individus connus".
Comme Pedro Domingos, professeur d'informatique à l'Université de Washington, l'a fait remarquer au Post : « Puis-je prédire que vous êtes un meurtrier à la hache en regardant votre visage et dois-je donc vous arrêter ? Vous pouvez voir à quel point cela serait controversé.
Le professeur de psychologie de Princeton, Alexander Todorov, a déclaré au Post : « La preuve que ces jugements sont exacts est extrêmement faible. Juste au moment où nous pensions que la physionomie était terminée il y a 100 ans.
« Faception a construit 15 classificateurs différents », a rapporté le Post, et pourrait évaluer certains traits avec une « précision de 80 %. Autrement dit, une personne sur cinq pourrait être classée à tort comme terroriste ou pédophile. Gilboa a déclaré que la société "ne mettra jamais ses classificateurs qui prédisent les traits négatifs à la disposition du grand public".
Huit classificateurs sont répertoriés sur le site Faception : High Q, chercheur universitaire, joueur de poker professionnel, joueur de bingo, promoteur de marque, délinquant en col blanc , terroriste et pédophile. "Les classificateurs représentent une certaine personnalité, avec un type de personnalité unique, un ensemble de traits de personnalité ou de comportements." Des algorithmes sont utilisés pour trier les personnes en fonction de leur place dans ces classificateurs.
Par exemple, l'entreprise classe un « joueur de bingo » comme étant « doté d'un plafond mental élevé, d'une concentration élevée, d'un esprit aventureux et de fortes capacités d'analyse. A tendance à être créatif, avec une grande originalité et imagination, une grande conservation et des sens aiguisés.
La « recherche de sensations fortes » est mentionnée dans le classificateur « terroriste ». Les sensations fortes sont de toutes formes et de toutes tailles, n'est-ce pas ? Dommage pour l'âme accro à l'adrénaline identifiée à tort comme un terroriste.
La société revendique des histoires de "succès" telles que l'identification correcte de quatre joueurs de poker sur 50 participant à un tournoi. Au final, deux des quatre joueurs prédits étaient finalistes. Faception affirme que sa technologie a classé neuf des 11 terroristes parisiens "sans connaissance préalable" et que seuls trois de ces terroristes avaient un enregistrement précédent. C'est prétendument pourquoi il "travaille avec la principale agence de sécurité intérieure", selon sa vidéo marketing.
Bien que Faception ne soit pas tout à fait le même, cela m'a rappelé [le filtrage pré-crime de la sécurité intérieure] (https://www.computerworld.com/article/2469953/endpoint-security/homeland-security-testing-mind-reading-terrorist --pre-crime--detectors.html) programme baptisé FAST pour Future Attribute Screening Technology (pdf); FAST a été comparé à Minority Report car il a été conçu "pour" détecter "et repérer les personnes qui ont l'intention de commettre un acte terroriste".
Comme FAST, Faception croit qu'il est « possible de savoir si un individu est un terroriste potentiel, une personne agressive ou un criminel."
Contrairement à Faception, FAST analyse bien plus que le visage. Il analyserait les expressions faciales et utiliserait des trackers pour mesurer les pupilles, la position et le regard des yeux, mais il mesurerait également les rythmes cardiaque et respiratoire, analyserait les mouvements du corps, les changements de chaleur corporelle et les changements de hauteur des voix.
EPIC (Electronic Privacy Information Center) a essayé d'obtenir plus d'informations du DHS sur FAST depuis 2011. Cette même année à DefCon, les chercheurs ont suggéré FAST sentait l'huile de serpent de sécurité et a expliqué pourquoi cela ne fonctionnerait pas ([pdf](https://www .defcon.org/images/defcon-19/dc-19-presentations/Rezchikov-Wang-Engelman/DEFCON-19-Rezchikov-Wang-Engelman-Airport-Security-WP.pdf)). Espérons que l'agence de sécurité intérieure anonyme qui a signé un contrat de 750 000 $ avec Faception n'était pas DHS.
La Chine aussi a bricolé avec "pré-crime" pour identifier les terroristes ; La Chine étant la Chine, il faut se demander si dissident est synonyme de terroriste. Son « score citoyen » est déjà un [cauchemar orwellien](https://www.computerworld.com/article/2990203/security/aclu-orwellian-citizen-score-chinas-credit-score-system-is-a-warning -for-americans.html).
La faception n'est peut-être pas destinée au grand public, mais "l'analyse d'individus anonymes susceptibles de constituer une menace pour la sécurité publique" pourrait être intégrée à l'application de la loi, comme dans la "sécurité intérieure", l'IA, [les robots personnels](http://www. faception.com/#!personal-robots-1/h1ile) ainsi que pour la « sécurité publique » dans les bâtiments, centres commerciaux, stades et entreprises, et utilisés dans la vente au détail, l'assurance, le recrutement, la finance et même le jumelage.
Faception énumère Sears et Manpower comme quelques-uns de ses clients, affirmant qu'il peut également "prédire le comportement en ligne" pour trouver les "utilisateurs les mieux rémunérés".