Incidents associés
Une image d'un suspect, créée à partir d'un échantillon de son ADN ? Cela ressemble à de la science-fiction dystopique, mais les experts disent que c'est encore pire - c'est une technologie que les flics déploient déjà, même si cela ne fonctionne presque certainement pas.
La section de police d'Edmonton (EPS) de l'Alberta, au Canada [s'est rendue sur Twitter] (https://twitter.com/edmontonpolice/status/1578055714681278465) mardi pour partager une image créée à l'aide du phénotypage de l'ADN, qui, selon le département, peut être utilisée comme un outil utile outil pour prédire - pas réellement identifier, juste prédire - à quoi un criminel pourrait ressembler.
Le seul problème? La technologie est loin d'être mature, dans la mesure où il est peu probable qu'elle soit capable de générer un portrait précis, et elle ne peut faire aucune supposition concernant les détails physiques clés allant de l'âge aux poils du visage.
L'EPS a fait allusion à ces limitations dans son communiqué de presse, mais a décidé d'aller de l'avant et de publier une image de l'ordinateur -généré suspect malgré tout. Une clé et un détail chargé ? Le suspect généré par l'IA était noir - et les experts n'ont pas tardé à sonner l'alarme.
"Généticien ici", a tweeté le Dr Adam Rutherford, professeur de génétique à l'University College London, en réponse à l'annonce. "Vous ne pouvez pas faire de profils faciaux ou de prédictions précises de pigmentation à partir de l'ADN, et c'est de l'huile de serpent dangereuse."
Rutherford a presque certainement raison. L'EPS a acheté la technologie, surnommée Snapshot, à une société appelée Parabon NanoLabs, qui sur son site Web promet d'aider les services de police à "résoudre [leurs] cas - RAPIDE !" Vous savez, parce que c'est ce que tout le monde veut que les flics fassent – attrapez un "criminel" potentiel en utilisant ce qui est essentiellement un profil Ancestry.com, afin qu'il puisse se faire rapidement en... quoi ? Enquêter sur quelqu'un qui pourrait correspondre à cette "description ?" J'ai compris.
Encore une fois, la science ne vérifie tout simplement pas assez bien l'une de ces descriptions générées pour être utilisée de bonne foi. Comme l'a noté Rutherford, il est impossible d'évaluer avec précision la plupart des caractéristiques physiques - y compris la couleur de la peau - à partir d'un phénotype. Il ne peut absolument pas vous dire l'âge ou le poids de quelqu'un et omet complètement tout changement physique provoqué par des facteurs environnementaux comme la pollution - ce que l'EPS sait, car il a dû utiliser plusieurs paramètres par défaut pour générer leur personne d'intérêt.
De manière déconcertante, l'EPS a reconnu bon nombre de ces lacunes dans son annonce.
"En utilisant des preuves ADN de cette enquête … un composite" instantané "a été produit illustrant à quoi pouvait ressembler le POI à 25 ans et avec un indice de masse corporelle (IMC) moyen de 22", lit-on dans le communiqué de presse du département. "Ces valeurs par défaut ont été utilisées car l'âge et l'IMC ne peuvent pas être déterminés à partir de l'ADN."
En d'autres termes : ce POI pourrait avoir ces caractéristiques, et bien que son âge soit inconnu, voici à quoi aurait pu ressembler la personne peut-être à l'âge de 25 ans avec un IMC de 22. Il y a un trou dans la logique sous tous les angles, ici.
Mais ils l'ont déployé quand même. Sur les réseaux sociaux, les critiques sont virulentes.
"C'est pourquoi nous voulons que la police soit supprimée", a écrit un utilisateur de Twitter. "Vous gaspillez de l'argent en astrologie raciste pour les flics."
"J'aime qu'on vous ait vendu ce produit d'une manière ou d'une autre", a répondu un autre, "sans que personne ne dise 'wow, c'est une idée évidemment terrible' à aucun moment."
Cette colère n'est pas tombée dans l'oreille d'un sourd. Après une vague de critiques, l'EPS a retiré l'image de son communiqué de presse et de ses réseaux sociaux, et a publié une nouvelle [déclaration] modérément contrite (https://www.edmontonpolice.ca/News/MediaReleases/StatementonDNAPhenotyping).
"Le potentiel qu'un profil visuel puisse fournir une caractérisation beaucoup trop large au sein d'une communauté racialisée et dans ce cas, la communauté noire d'Edmonton, n'était pas quelque chose que j'avais suffisamment pris en compte", a écrit Enyinnah Okere, directrice de l'exploitation de Community Safety and Well. -Être Bureau d'EPS. "Il est important d'équilibrer la valeur d'investigation potentielle d'une pratique avec les risques trop réels et les conséquences imprévues pour les communautés marginalisées."
"Chaque fois que nous utilisons une nouvelle technologie - en particulier une qui soulève des inquiétudes concernant le profilage d'un groupe marginalisé - nous ne pouvons pas être assez prudents dans la façon dont nous validons ces efforts et considérons les risques de manière complète et transparente", a-t-il poursuivi. "Nous avons entendu des critiques externes légitimes et nous avons fait nos propres vérifications internes pour déterminer si nous avions trouvé le bon équilibre – et, en tant que leader, je ne pense pas l'avoir fait."
Pour l'instant, la technologie semble être un générateur d'impasse, sans parler d'un filet pseudo-scientifique qui fait prendre des innocents entre deux feux.