Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2225

Incidents associés

Incident 3856 Rapports
Canadian Police's Release of Suspect's AI-Generated Facial Photo Reportedly Reinforced Racial Profiling

Loading...
Déclaration EPS sur le phénotypage de l'ADN
edmontonpolice.ca · 2022

Je m'appelle Enyinnah Okere et en tant que chef de l'exploitation du Bureau de la sécurité et du bien-être communautaires d'EPS, je suis responsable de la supervision de notre section des agressions sexuelles - c'est mon équipe qui a publié il y a deux jours un communiqué sur l'agression sexuelle non résolue de une jeune femme en 2019.

Il s'agissait d'une agression sexuelle horrible, qui a failli causer la mort de la jeune femme qui a été laissée inconsciente et presque entièrement dévêtue par une matinée de moins 27 degrés en mars.

C'est le type d'affaire dont une victime peut ne jamais se remettre complètement, aggravée par le fait qu'après deux ans, elle n'a pas obtenu justice. La nature violente de l'agression, le fait que la victime a perdu connaissance et que le suspect portait des vêtements d'hiver volumineux et un masque facial, signifiait que nous avions très peu de choses avec lesquelles travailler - seulement que le suspect était noir et environ 5'4 avec une tuque noire, un pantalon et un chandail ou un chandail à capuchon et qu'il avait un accent. De plus, nous n'avions aucun témoin, aucun pourboire, aucune vidéosurveillance et, après deux ans, aucune piste.

Pour faire avancer cette affaire bloquée, les membres de notre équipe ont demandé l'avis de collègues d'autres juridictions qui avaient déjà utilisé le phénotypage de l'ADN et en voyaient le potentiel ici. Ils ont commandé un profil que nous avons publié mardi.

Je n'ai que du respect pour mon équipe pour sa volonté d'essayer toutes les tactiques imaginables pour mener cette affaire à une conclusion satisfaisante - la victime ne mérite rien de moins. Je tiens à remercier nos gens qui mettent tout en œuvre pour poursuivre ce travail avec rigueur. Ils sont implacables et je ne leur demanderai rien de moins.

Mais nous n'étions pas et ne sommes pas inconscients des questions légitimes soulevées quant à la pertinence de ce type de technologie. Le potentiel qu'un profil visuel peut fournir une caractérisation beaucoup trop large au sein d'une communauté racialisée et dans ce cas, la communauté noire d'Edmonton, n'était pas quelque chose que j'ai suffisamment pris en compte. Il est important d'équilibrer la valeur d'investigation potentielle d'une pratique avec les risques trop réels et les conséquences imprévues pour les communautés marginalisées.

Dans notre communiqué, nous avons essayé de nuancer les avantages et les limites de la technique que nous avons utilisée ici. Nous sentions que nous étions clairs sur sa limite. Nous avons indiqué que nous le considérions comme un dernier recours. Et nous remercions les médias qui ont assisté à notre briefing pour avoir produit des histoires soignées et équilibrées qui ont également noté l'intention de ce travail et les critiques très justes qui doivent être prises en compte.

Chaque fois que nous utilisons une nouvelle technologie - en particulier une qui soulève des inquiétudes quant au profilage d'un groupe marginalisé - nous ne pouvons pas être assez prudents dans la façon dont nous validons ces efforts et considérons les risques de manière complète et transparente.

Nous avons entendu des critiques externes légitimes et nous avons fait nos propres vérifications internes pour déterminer si nous avions trouvé le bon équilibre – et, en tant que leader, je ne pense pas l'avoir fait.

Alors que la tension que je ressentais à ce sujet était bien réelle, j'ai donné la priorité à l'enquête - qui dans ce cas impliquait la poursuite de la justice pour la victime, elle-même membre d'une communauté racialisée, plutôt que le préjudice potentiel à la communauté noire. Ce n'était pas un compromis acceptable et je m'en excuse.

Pour cette raison, EPS prendra les mesures suivantes aujourd'hui.

Nous allons supprimer les visuels fournis avec ce communiqué de notre site Web et supprimerons complètement nos images de médias sociaux, à compter de ce matin.

Nous examinerons nos processus internes pour mieux nous assurer que des outils appropriés, robustes et testés sous contrainte sont en place pour mieux éclairer nos décisions sur ces questions à l'avenir.

Et nous continuerons à prioriser et à explorer tous les moyens imaginables et appropriés pour rendre justice à la victime dans cette affaire - elle mérite nos efforts et notre concentration continus, et nous n'abandonnerons pas nos efforts pour elle.

Merci,

Enyinnah Okere Président directeur général Bureau de la sécurité et du bien-être communautaires Service de police d'Edmonton

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd