L'algorithme espagnol laisse les victimes de violence domestique à l'écart : Depuis 15 ans, l'Espagne utilise un système algorithmique appelé VioGén pour aider la police à évaluer le risque auquel les femmes sont confrontées lorsqu'elles portent plainte pour abus. Mais le système présente de graves lacunes qui font que le risque pour les femmes est classé trop bas et sans réponse appropriée des autorités, selon un nouveau rapport d'Eticas Consulting, une société d'audit algorithmique, et la Fondation Ana Bella, une organisation qui fait campagne contre la violence sexiste. .
Découvrez VioGén : Lancé en 2007, le système a été créé par le ministère espagnol de l'Intérieur. Le « Système de surveillance intégrale des cas de violence sexiste » (le système VioGén) est une application Web conçue pour aider les autorités à coordonner les actions visant à protéger les femmes et leurs enfants contre la violence sexiste. L'idée était de standardiser une série de questions que les autorités posent aux femmes lorsqu'elles déposent une plainte officielle dans le but de les traiter équitablement et de leur offrir un meilleur traitement.
Comment ça marche : VioGén utilise des modèles statistiques classiques pour effectuer une évaluation des risques et propose aux femmes un score de risque, qui détermine l'aide qu'elles recevront.
Voici où tout va mal : « Nous pouvions voir dans les médias que de temps en temps, une femme était tuée et que son risque VioGén avait été classé faible », a déclaré Gemma Galdon-Clavell, PDG d'Eticas Consulting. Son audit a révélé qu'en 2021, seule 1 femme sur 7 qui a contacté la police pour obtenir une protection a reçu de l'aide, et seule une petite minorité de femmes a reçu un score de risque «moyen» ou supérieur, ce qui les qualifierait pour la protection de la police. "Si vous n'avez pas d'enfants, vous pouvez obtenir un score de risque plus faible, ce qui est également préoccupant", a ajouté Galdon-Clavell.
Une barre haute : La proportion de femmes qui signalent que leur partenaire est victime de violence n'est probablement que la pointe de l'iceberg de tous les cas de violence domestique et de violence entre partenaires intimes. Les femmes risquent beaucoup en s'adressant aux autorités, et le font souvent dans des situations d'extrême contrainte. "Je tremblais, je ne trouvais pas les mots pour expliquer des années d'abus, de moqueries, de mépris et de mépris de sa part, ce n'était pas facile et le policier qui a pris ma déposition n'était pas formé pour s'occuper d'une personne qui avait souffert violence sexiste », a déclaré une femme qui a participé à l'audit d'Eticas.
Le questionnaire VioGén a été une expérience déconcertante. "J'étais totalement perdu dans ces questionnaires entre les nerfs et les pleurs. Il n'y avait personne avec moi pour expliquer les questionnaires. Le policier m'a donné le papier et m'a laissée seule et de temps en temps il venait me faire pression pour que je finisse rapidement », a déclaré la femme.
Scénario « cauchemar » : « C'est comme un mauvais rêve. Un cauchemar. Et à ce jour, je ne me souviens pas de ces questions, je me souviens juste que je me sentais très mal et sans protection. Je ne savais même pas qu'il y avait un score », a déclaré une autre femme qui a participé à l'audit.
Les humains ne sont pas au courant : l'audit d'Etica a révélé que VioGén n'est pas très transparent et a très peu de surveillance ou de responsabilité humaine. Dans 95 % des cas, les policiers s'en sont tenus au score de risque proposé par le système.
Drapeau rouge de l'apprentissage automatique : le ministère a déclaré qu'il envisageait d'introduire l'apprentissage automatique dans VioGén. C'est un gros drapeau rouge pour Galdon-Clavell. "Il est tout à fait clair que la surveillance humaine ne fonctionne pas", a-t-elle déclaré. L'utilisation de l'apprentissage automatique conduirait à "aggraver encore les schémas de discrimination sans aucune forme de surveillance", a-t-elle ajouté.
Le ministère espagnol de l'Intérieur répond : Le système d'évaluation des risques "est basé sur l'étude de 600 000 cas réels et fait l'objet d'un processus constant et permanent d'évaluation et d'amélioration depuis 2007, avec la collaboration d'universités et de centres d'études de prestige académique reconnu". a déclaré un porte-parole du ministère espagnol de l'Intérieur. Le rapport Eticas "manque de rigueur académique en fondant son étude et ses conclusions sur un univers statistique insignifiant de seulement 31 entretiens par rapport aux plus de cinq millions d'évaluations des risques réalisées depuis 2007", ont-ils poursuivi.
Comment réparer le système : Impliquer les femmes dans le processus et expliquer comment le système fonctionne serait un bon début. Les femmes qui ont utilisé le système ont déclaré à Decoded qu'elles auraient aimé être accompagnées par un spécialiste de la violence sexiste, des psychologues ou des médecins. « Donner de la sécurité à la victime. Donnez de l'empathie. Ne jugez pas. Soyez gentil et solidaire », a déclaré une deuxième femme. Lisez plus de moi ici.