Incidents associés
PimEyes est devenu un succès parmi les "creeps" numériques et d'autres désireux d'enquêter sur des étrangers. Les chercheurs craignent qu'il n'y ait aucun moyen d'empêcher qu'il soit abusé. Le site de reconnaissance faciale PimEyes est l'un des outils de recherche de visage les plus performants de la planète. En moins d'une seconde, il peut parcourir plus de 900 millions d'images sur Internet et trouver des correspondances avec une précision surprenante. Mais son trait le plus distinctif est qui peut l'utiliser : n'importe qui. Alors que la plupart des outils de reconnaissance faciale sont réservés à la police ou au gouvernement, PimEyes est ouvert au grand public, qu'il s'agisse de traquer les suspects d'émeutes du Capitole américain ou de traquer des femmes sur le Web. L'outil de recherche se situe à la frontière d'une nouvelle ère de surveillance par reconnaissance faciale : puissamment sophistiqué et accessible à tous, avec des capacités supplémentaires pour ceux qui paient. Et sans surveillance publique ou règles gouvernementales contrôlant l'utilisation de la reconnaissance faciale, les chercheurs s'attendent à ce que des sites comme PimEyes se multiplient, capitalisant sur la vaste quantité de photos et de vidéos d'Internet - et permettant aux étrangers de garder un œil sur la vie personnelle des gens. « Qu'est-ce qui les en empêche ? Littéralement rien », a déclaré Stephanie Hare, chercheuse en technologie à Londres. "Les gens qui ont mis ces photos sur Internet - avec leurs enfants, leurs parents, les personnes qui pourraient être vulnérables dans leur vie - ne le faisaient pas pour pouvoir alimenter une base de données que les entreprises pourraient monétiser", a-t-elle déclaré. Il n'y a pas de moyen clair de riposter, a-t-elle ajouté: «Je peux laisser mon téléphone à la maison. Ce que je ne peux pas quitter, c'est mon visage. La reconnaissance faciale est devenue un outil d'investigation de plus en plus répandu pour les autorités gouvernementales et les forces de l'ordre ; les aéroports, les magasins et les écoles l'utilisent également pour vérifier l'identité des visiteurs et renforcer la sécurité. Mais PimEyes a rendu plus facile que jamais pour le grand public d'exploiter sa puissance d'intelligence artificielle : lorsqu'un utilisateur soumet une photo du visage de quelqu'un, le site renverra un catalogue d'images liées à d'autres endroits où cette personne apparaît sur le Web, y compris de vieilles vidéos, des reportages, des albums photo et des blogs personnels. Les résultats de la recherche n'incluent pas les noms exacts, mais ils offrent un détail et une précision qui ont laissé certaines personnes stupéfaites. Pete, un homme de 40 ans en Allemagne qui a demandé que seul son prénom soit utilisé, a déclaré qu'il avait publié une photo de lui-même de 17 ans en train de boire une bière dans un train et qu'il avait été époustouflé lorsqu'il avait renvoyé un lien vers un vidéo récente de lui sur YouTube. « Comment cela a-t-il fonctionné ? Je suis plus âgé, c'est une expression faciale différente, même une position différente de ma tête », a-t-il déclaré en comparant les deux photos. "C'est très effrayant et beaucoup trop puissant. Cela ne devrait pas être rendu public, disponible pour tout le monde. PimEyes déclare dans son "manifeste" en ligne qu'il estime que la recherche de son visage en ligne devrait être un droit humain fondamental ouvert à tous, pas seulement aux entreprises et aux gouvernements, et que le travail de l'entreprise est, contre toute attente, une aubaine pour la vie privée. PimEyes vend des forfaits d'abonnement aux personnes qui souhaitent savoir où leurs photos ont été publiées en ligne ou être alertées lorsqu'elles sont publiées ailleurs. Bien qu'ils aient construit un moteur de recherche consacré à la résolution des mystères en ligne, les développeurs ne diront pratiquement rien sur eux-mêmes. Un représentant de l'entreprise – qui a refusé de partager son nom, a déclaré qu'il ne parlerait que par e-mail et a demandé à être appelé uniquement «le directeur» – a refusé de répondre aux questions sur le fonctionnement de PimEyes, qui est impliqué dans l'entreprise ou même là où l'entreprise est basée. "Rester complètement anonyme est très important pour nous", a déclaré le directeur. La société s'est défendue contre les critiques – et les lois sur la confidentialité des données comme le règlement général sur la protection des données de l'Union européenne, qui restreint l'utilisation de la reconnaissance faciale – en affirmant qu'elle ne doit être utilisée que par les personnes téléchargeant leurs propres images. Mais PimEyes applique cette règle avec une seule case à cocher que n'importe qui peut facilement cliquer pour contourner. L'entreprise n'a pas d'autres règles en place pour empêcher quiconque de parcourir le Web pour quelqu'un d'autre. "La ressource la plus précieuse est l'information … [et] nous permettons aux gens de trouver, de surveiller et de protéger des informations sur eux-mêmes", a déclaré le directeur. "Nous n'encourageons pas les gens à rechercher d'autres personnes - c'est leur propre décision d'enfreindre les règles." L'outil est devenu extrêmement populaire parmi les étrangers qui cherchent à "essentiellement traquer" les femmes sur le Web, a déclaré Aaron DeVera, chercheur en sécurité à New York. Sur 4chan et d'autres forums anonymes, les abonnés de PimEyes avec des capacités de recherche plus approfondies que les utilisateurs non rémunérés - les abonnements commencent à environ 30 $ par mois - créent régulièrement des discussions proposant de rechercher n'importe quelle photo et de relayer les résultats. Presque toutes les photos sont de jeunes filles et de femmes tirées de leurs comptes de médias sociaux, de leurs profils d'applications de rencontres ou de "creepshots" photographiés furtivement sans leur consentement. Les personnes qui recherchent espèrent souvent trouver d'autres photos ou apprendre plus de détails personnels "afin qu'elles puissent s'y glisser davantage", a ajouté DeVera: "Quelque chose comme celui-ci qui est si prêt à l'emploi réduit vraiment la barrière à l'entrée pour les activités néfastes. ” Dans un fil PimEyes sur 4chan à partir d'octobre, un utilisateur anonyme a publié un collage numérique, intitulé "Exposition complète" et le nom d'une femme, rempli de détails sensibles sur sa vie personnelle. Il n'était pas clair si toutes les photos avaient été révélées par PimEyes, ou même si elles étaient toutes de la même femme. Mais le collage était terriblement complet, y compris des photos d'elle debout dans la classe du collège où elle enseigne, son permis de conduire, son badge scolaire, son faire-part de mariage, l'extérieur de sa maison et son adresse personnelle. (La femme, par l'intermédiaire de son mari, a refusé de commenter.) Le réalisateur a déclaré que PimEyes ne devrait pas être blâmé pour la façon dont il est utilisé par les gens sur un forum comme 4chan : "Vous y trouverez probablement du contenu qui montre comment utiliser Google, une voiture , ou juste une assiette ou tout autre outil pour blesser quelqu'un. La plupart des outils de reconnaissance faciale, tels que Clearview AI, recherchent des correspondances avec une image parmi les photos d'une base de données géante. Mais PimEyes fonctionne plus comme Google, en utilisant des robots connus sous le nom de "spiders" pour explorer le Web, en recherchant des photos de visages, puis en enregistrant ces images sous forme de code numérique. Si l'outil de recherche affiche ultérieurement une photo qui ressemble à l'une de ces images, il renverra un lien direct vers l'endroit où l'image peut être trouvée. PimEyes a déclaré l'année dernière dans une page Web supprimée depuis qu'il avait analysé 900 millions de visages uniques - près de trois fois la population américaine - à partir de 150 millions de sites Web et traité 1 téraoctet d'images par jour. PimEyes a déclaré ne pas rechercher d'images sur les réseaux sociaux, mais les photos de ces sites figurent régulièrement parmi les résultats, et lors d'un test réalisé l'année dernière par le blog allemand sur les droits numériques Netzpolitik, les journalistes ont déclaré avoir trouvé des résultats sur Instagram, YouTube, Twitter et TikTok. . La société n'a pas fourni d'explication, ont écrit les journalistes, ajoutant : "Plus nous confrontons PimEyes avec des questions, plus la société se contredit". Cependant, les robots de PimEyes cataloguent les images sur des sites Web pornographiques, et les personnes qui ont utilisé le site ont déclaré qu'elles étaient souvent tombées sur ces résultats similaires lors de la recherche de quelqu'un d'autre. Le directeur de la société a déclaré que le site scanne les images pornographiques afin que ses clients puissent trouver des publications pornographiques de «revanche» non consensuelles ou tenter «d'effacer les erreurs de la jeunesse». Un client qui crée du contenu sexuel, a ajouté le directeur, utilise l'outil pour trouver des sites Web qui volent leur travail. Lancé en 2017 par une start-up polonaise, PimEyes se présente comme "un outil avancé d'autosurveillance, d'autoprotection et de gestion de l'image de soi". Un blog polonais en 2019 a déclaré que le site avait été lancé par deux diplômés de l'Université des sciences et technologies de Wrocław, Lukasz Kowalczyk et Denis Tatina, qui l'ont construit comme un projet de loisir et l'ont ensuite monétisé en voyant l'intérêt des utilisateurs - dont le plus grand, ils ont dit, venait des États-Unis. En 2020, la marque PimEyes a été transférée à Face Recognition Solutions Ltd., une société sans véritable présence en ligne et une adresse d'entreprise enregistrée dans une seule pièce aux Seychelles, la nation insulaire de l'océan Indien qui est devenue un refuge offshore populaire pour les entreprises qui souhaitent dissimuler leur propriété et les détails de leur entreprise. La même pièce est également répertoriée comme adresse enregistrée pour les start-ups dans la publicité, la finance et la crypto-monnaie, selon les registres de l'entreprise. Le directeur de PimEyes a déclaré que la société avait choisi les Seychelles "en raison du bon environnement d'incorporation". Le directeur a également peu parlé du fonctionnement des algorithmes de reconnaissance faciale de PimEyes, affirmant seulement qu'ils sont "construits en interne". Des centaines d'algorithmes de ce type ont été développés dans le monde, chacun avec des caractéristiques et des taux d'erreur variables qui peuvent affecter leur bon fonctionnement : dans un test fédéral de 2019, les algorithmes les moins précis étaient jusqu'à 100 fois plus susceptibles de mal identifier les personnes de couleur. Les utilisateurs ont été surpris lorsque PimEyes a trouvé non seulement leurs propres photos, mais des photos dans lesquelles ils n'avaient même pas réalisé qu'elles avaient été capturées. Un journaliste français a fait passer une photo de lui-même par webcam sur le site et a trouvé une photo dont il n'avait aucun souvenir, dans lequel on aurait dit qu'il s'était endormi lors d'une conférence de presse. Un autre homme a déclaré que le site avait trouvé une photo de lui datant d'il y a 25 ans. Certains ont également été alarmés par la facilité d'utilisation : un homme a tweeté qu'il avait pris des captures d'écran des visages des personnes lors d'appels Zoom, puis les a fait passer par PimEyes, en disant que "les résultats étaient surprenants". S'il l'avait voulu, a-t-il ajouté, il aurait pu payer pour recevoir des notifications chaque fois qu'une nouvelle photo d'eux était mise en ligne. Le service, cependant, pourrait souffrir des mêmes problèmes qui affectent de nombreux outils de reconnaissance faciale, y compris de grandes variations de précision en fonction de la couleur de peau de la personne recherchée. Certains utilisateurs de Twitter se sont plaints que le moteur de recherche ne renvoyait que des acteurs pornographiques qui ne leur ressemblaient en rien. La société a refusé de répondre aux questions sur son équipe de développement, ses finances, sa clientèle, son index de photos et ses plans d'expansion. En mars, la société a proposé de mettre en relation le Washington Post avec certains de ses clients, affirmant que "nous avons de nombreux clients satisfaits de notre service", mais après plusieurs semaines, elle a fait marche arrière et a déclaré qu'aucun n'accepterait de parler. "Nous aidons nos clients à résoudre des cas sensibles, afin qu'ils ne soient peut-être pas disposés à partager leurs histoires", a déclaré le directeur. Tout utilisateur de PimEyes peut voir des résultats de recherche limités. Mais seuls les abonnés payants "Premium" peuvent effectuer des recherches illimitées, déverrouiller tous les détails de l'image et recevoir des alertes par e-mail chaque fois que le site détecte un visage qu'ils ont téléchargé ailleurs sur le Web. Pour 29,99 $ par mois, un utilisateur peut effectuer des recherches 25 fois par jour, tandis que 299,99 $ par mois peuvent débloquer des recherches illimitées. Un calculateur de prix en ligne suggère que certains utilisateurs pourraient vouloir effectuer jusqu'à 100 millions de recherches par mois – un nombre gargantuesque pour une entreprise qui dit que les utilisateurs ne devraient rechercher que leurs propres images. PimEyes s'est présenté comme un outil d'enquête pour les forces de l'ordre, déclarant l'année dernière dans un article supprimé depuis qu'il "est activement impliqué dans la lutte contre la criminalité en ligne". Mais le directeur de l'entreprise a déclaré qu'aucun de ses clients n'était un organisme chargé de l'application de la loi. Cette affirmation de lutte contre le crime, a déclaré le réalisateur, est néanmoins "vraie d'une certaine manière" car l'outil peut être utilisé pour trouver des images utilisées illégalement. PimEyes permet à quiconque de demander la suppression d'une photo à l'aide d'un formulaire en ligne, une image à la fois. Mais pour empêcher complètement ces photos d'apparaître dans les résultats de recherche de PimEyes, un utilisateur doit payer 79,99 $ par mois pour le forfait "PROtect" - en gros, payer la même entreprise qui a découvert les images pour les supprimer également. L'utilisation généralisée de PimEyes dans la poursuite des émeutiers du Capitole, par un collectif en ligne de "chasseurs de sédition", a également inquiété des chercheurs comme Hare, le chercheur en technologie, qui pensait qu'il pourrait être facilement utilisé à mauvais escient pour cibler les mauvaises personnes ou transformer des détectives non formés en numérique. justiciers. « Les citoyens sont-ils des flics ? Non. Mais des outils comme ceux-ci peuvent transformer n'importe qui en flic », a-t-elle déclaré. "Si vous donnez aux gens quelque chose qui peut être utilisé comme outil de surveillance, les gens vont l'utiliser comme tel, et ils ne ressentiront pas le besoin d'avoir une conversation éthique à ce sujet." Un outil pour le travail de détective amateur, a ajouté Hare, peut aussi facilement être transformé en une arme de surveillance de l'État. Avant PimEyes, il y avait FindFace, un moteur de recherche de visage similaire développé par la start-up technologique moscovite NtechLab. Les autorités russes utilisent désormais le logiciel pour suivre les militants de l'opposition, les journalistes, les manifestants et autres capturés par les plus de 189 000 caméras de Moscou. PimEyes a déclaré que les cas d'abus liés à l'outil de recherche n'étaient pas la faute de l'entreprise, ajoutant que tout "service peut être utilisé contre le but pour lequel il a été créé". Parmi les «chasseurs de sédition», le directeur a déclaré: «Les personnes qui ont abusé de notre moteur de recherche l'ont fait pour une bonne cause, mais cela ne signifie pas qu'elles ne subiront pas les conséquences de leurs actes.» Mais même certains fans du service pensent que cela va trop loin. Conor Nolan, un chercheur en photographie à Londres, a passé des heures sur PimEyes à tenter d'identifier les membres de la foule qui a pris d'assaut le Capitole américain le 6 janvier, estimant que les informations pourraient s'avérer inestimables pour le FBI. Lors de l'une de ses premières recherches, PimEyes a pointé la photo d'identité d'un suspect datant de dix ans - une percée d'enquête en un seul clic. Nolan a déclaré que c'était d'une précision effrayante et "une technologie avec laquelle je ne suis pas du tout à l'aise", ajoutant qu'il pense que les gouvernements devraient réglementer ces outils avant qu'ils ne soient mis à la disposition du grand public. Mais en attendant, a-t-il dit, il a l'intention de continuer à l'utiliser, simplement parce qu'il fonctionne si bien. "L'éthique mise à part, cela en valait la peine", a déclaré Nolan. "Je l'utiliserais à nouveau si j'en avais besoin." Aux États-Unis, PimEyes et d'autres sociétés de reconnaissance faciale ont peu de lois à respecter. Alors que les membres du Congrès des deux partis ont parlé de geler l'utilisation de la technologie par le gouvernement et que les chiens de garde fédéraux du Government Accountability Office les ont exhortés l'année dernière à renforcer les lois sur l'analyse faciale, l'entreprise n'est toujours pas réglementée au niveau national. Une demi-douzaine d'États et environ deux douzaines de villes ont interdit ou restreint l'utilisation de la technologie par le public ; une autre douzaine de législatures d'État devraient discuter de projets de loi similaires cette année. Mais ces législations traitent presque toujours de l'utilisation par la police ou les autorités publiques, et non par les entreprises ou les particuliers. Ce vide réglementaire a conduit même les plus grands développeurs de la technologie à demander des lois plus strictes : Amazon a interrompu l'été dernier sa vente de technologie de reconnaissance faciale à la police pendant un an pour donner aux législateurs "assez de temps pour mettre en œuvre des règles appropriées", tandis que Microsoft a déclaré qu'il ne vendrait pas la technologie à la police jusqu'à ce qu'une loi fédérale «fondée sur les droits de l'homme» soit promulguée. Certains chercheurs en intelligence artificielle s'attendent à ce que PimEyes ne soit pas le dernier site à tenter une recherche faciale illimitée. L'essor de l'IA "open source" a permis aux développeurs extérieurs d'intégrer facilement des logiciels de reconnaissance faciale dans leurs propres applications : avec une puissance de calcul suffisante, n'importe qui peut les utiliser pour jouer avec les données photo et vidéo apparemment infinies du Web. Un scientifique des données d'IA utilisant le nom en ligne "Patr10tic", qui s'est exprimé lors d'un entretien téléphonique sous couvert d'anonymat pour discuter franchement du développement d'outils similaires, a déclaré que la fonctionnalité de PimEyes peut être étroitement imitée à l'aide d'outils disponibles gratuitement tels que FaceNet, un open- système de reconnaissance faciale source développé par les chercheurs de Google en 2015 et maintenant largement émulé sur le Web. Après le siège du Capitole, il a utilisé un outil open-source "d'extraction de visage" pour extraire des images faciales de plus de 40 000 vidéos téléchargées sur le réseau social fortement pro-Trump Parler. Il a ensuite construit une carte groupée de ces visages, ainsi qu'une carte de localisation détaillée indiquant où les vidéos avaient été réalisées pour la première fois. Les développeurs, a-t-il dit, ont un "véritable devoir" de construire des outils avec des garde-fous contre leur propre utilisation abusive. Mais il n'est pas surpris que ces utilisations de l'IA se développent rapidement - et il pense que, dans de nombreux cas, il est déjà trop tard pour freiner un type de technologie qui a largement proliféré dans le monde. "Vous ne pourrez pas empêcher les gens de "spider" le Web par eux-mêmes et d'utiliser du code open source pour créer des pipelines comme celui-ci. C'est tout simplement impossible à appliquer », a-t-il déclaré. « C'est là que va le monde. Comme les physiciens des années 1940, on peut déjà effectivement créer un projet Manhattan. Tous ces outils peuvent être utilisés, pour ainsi dire, pour la paix ou pour la guerre.