Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2315

Incidents associés

Incident 4124 Rapports
Finland Police's Facial Recognition Trial to Identify Sexual Abuse Victims Deemed Illegal

Loading...
Test d'un logiciel de reconnaissance faciale par NBI signalé au Médiateur pour la protection des données
poliisi.fi · 2021

Le Bureau national d'enquête (NBI) a découvert dans le cadre de ses activités un possible incident de sécurité de l'information impliquant des données personnelles et a fait un rapport sur l'incident au Conseil de la police nationale. L'incident allégué s'est produit lors du traitement de données à caractère personnel dans un service pour lequel la sécurité des informations ou le respect de la législation sur la protection des données n'ont peut-être pas été assurés au préalable de manière suffisante.

L'incident a été découvert par le NBI le jeudi 8 avril. Sur la base des premières informations du NBI, le Conseil de la police nationale a décidé de signaler l'affaire au Bureau du médiateur pour la protection des données et a soumis le rapport le vendredi 9 avril.

L'incident de sécurité de l'information est lié au test de la technologie de reconnaissance faciale effectué début 2020 par l'unité du NBI chargée de lutter contre l'exploitation sexuelle des enfants. Les tâches de cette unité comprennent la présélection du matériel d'exploitation sexuelle d'enfants reçu des parties prenantes internationales.

La police a le droit légal de traiter les images faciales biométriques dans les conditions prévues par la loi si le traitement est nécessaire à l'accomplissement d'une mission légale de police.

– L'unité a testé un service américain appelé Clearview AI pour l'identification d'éventuelles victimes d'abus sexuels afin de contrôler la charge de travail accrue de l'unité au moyen de l'intelligence artificielle et de l'automatisation. L'identification des victimes représentées dans les images et les vidéos examinées par l'unité est cruciale pour protéger les droits des victimes et pour interrompre tout crime en cours ou détecter une infraction déjà commise, déclare le chef du centre de cybercriminalité, le surintendant principal des détectives Mikko Rauhamaa du NBI.

Au cours de la période d'essai, l'unité a effectué environ 120 recherches dans le logiciel, qui utilise des photos de personnes sur les réseaux sociaux. Les images saisies dans ce logiciel avaient été modifiées par l'unité pour ne représenter que le visage de ceux qui devaient être identifiés. Il y a eu un « hit » pendant la période d'essai, et cela a conduit à une coopération avec les autorités sociales. Aucune enquête criminelle n'a été ouverte ou aucune autre action policière réelle n'a été entreprise à la suite du coup.

Après avoir utilisé le logiciel pendant la durée de la période d'essai, il a été conclu que Clearview AI n'était pas adapté en Finlande pour cette coopération particulière entre les autorités.

– L'un des devoirs statutaires du NBI est de développer davantage les méthodes de lutte contre la criminalité. L'unité concernée explorait des outils pour réduire la charge de travail et améliorer l'efficacité des processus de police afin de permettre une intervention immédiate dans toute exploitation en cours. Dans ce cas particulier, le logiciel n'était pas adapté à la police, explique Mikko Rauhamaa.

Le NBI continue d'enquêter sur la question.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd