Problème 2457

LOS ANGELES/WASHINGTON, 10 février (Fondation Thomson Reuters) - Des dizaines de groupes de défense des droits exigent la répression d'un système d'intelligence artificielle utilisé pour écouter les appels téléphoniques des prisonniers américains, après qu'une enquête de la Fondation Thomson Reuters a mis en évidence le risque de violation des droits.

Documents de huit États [montrés](https://nam02.safelinks.protection.outlook.com/?url=https%3A%2F%2Fnews.trust.org%2Fitem%2F20211122213228-wxsz9&data=04%7C01%7CBeatrice.Tridimas %40thomsonreuters.com%7Ccd4e746db6144f2617b808d9eca6ea98%7C62ccb8646a1a4b5d8e1c397dec1a8258%7C0%7C0%7C637801023923513804%7CUnknown%7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0%3D%7C3000&sdata=zqcwi%2FSeZ29iECOPRCxIGtIHSgXlpjNJYi1oJrkndZk%3D&reserved=0) prison and jail authorities were using surveillance software called Verus, which scans for key words and leverages Amazon's service de transcription voix-texte, pour surveiller les appels téléphoniques des détenus.

La société californienne LEO Technologies, qui exploite Verus, affirme avoir numérisé près de 300 millions de minutes d'appels entrant et sortant des prisons et des prisons aux États-Unis, décrivant l'outil comme un moyen de lutter contre le crime et d'aider à assurer la sécurité des détenus.

Mais une coalition de groupes de défense des droits civils et numériques a déclaré que la surveillance dépassait parfois les limites légales en ciblant des conversations sans rapport avec la sûreté et la sécurité des centres de détention, ou d'éventuelles activités criminelles.

"Cette surveillance porte atteinte aux droits des Américains incarcérés, dont beaucoup n'ont pas été condamnés et travaillent toujours sur leurs défenses, ainsi que celles de leurs familles, amis et proches", ont écrit les groupes dans une lettre conjointe.

Quatre lettres différentes ont été envoyées au bureau du procureur général de l'État de New York, à l'inspecteur général de l'État et au ministère fédéral de la Justice (DOJ).

Le DOJ a accordé une subvention de 700 000 $ au bureau du shérif du comté de Suffolk, à New York, pour mettre en œuvre un pilote du système de surveillance voix-texte alimenté par l'IA en 2020.

Le sous-shérif Kevin Catalina, qui aide à gérer le programme Verus dans le Suffolk, a déclaré à la Fondation Thomson Reuters que le système est crucial pour alerter les autorités pénitentiaires des personnes suicidaires et pour identifier les membres de gangs derrière les barreaux.

"Cela sauve des vies", a-t-il déclaré.

Un responsable du MJ a déclaré que le département examinait les programmes technologiques recevant un financement fédéral pour s'assurer qu'ils améliorent la sécurité publique tout en respectant les droits constitutionnels.

Un porte-parole du bureau de l'inspecteur général de l'État de New York a déclaré dans des commentaires par courrier électronique qu'il examinerait la lettre et "enquêterait de manière approfondie" sur les plaintes envoyées.

Plus de 50 groupes de défense participent à la campagne, parmi lesquels l'Electronic Frontier Foundation, Worth Rises, Innocence Project et Access Now.

Ils ont également fait part de leurs inquiétudes concernant la société d'appels téléphoniques de la prison Securus et l'enregistrement possible de conversations protégées par le secret professionnel de l'avocat.

Un porte-parole de Securus a déclaré que la société s'engage à protéger les libertés civiles, que les utilisateurs peuvent définir des numéros d'avocat sur privé - ce qui signifie que les appels ne sont pas enregistrés et ne peuvent pas être surveillés - et qu'ils agissent immédiatement pour supprimer les enregistrements "par inadvertance".

Un représentant de LEO n'a pas répondu aux demandes de commentaires sur les lettres.

"Il semble que les régulateurs se soient endormis au niveau fédéral, étatique et local", a déclaré Albert Fox Cahn, responsable du projet de surveillance des technologies de surveillance, qui a aidé à rédiger la lettre.

"Non prouvé, envahissant et biaisé"

Alors que le comté de Suffolk testait [Verus](https://nam02.safelinks.protection.outlook.com/?url=https%3A%2F%2Fnews.trust.org%2Fitem%2F20210809090018-c8r11&data=04%7C01%7CBeatrice. Tridimas%40thomsonreuters.com%7Ccd4e746db6144f2617b808d9eca6ea98%7C62ccb8646a1a4b5d8e1c397dec1a8258%7C0%7C0%7C637801023923513804%7CUnknown%7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0%3D%7C3000&sdata=%2FPwCS1U%2BSXwBYobjUj1MHvs3LWmUGHOpUKBodi0YT1c%3D&reserved=0), it also expanded beyond New York, winning state contracts in Georgia and Texas, and dans les départements du shérif local à travers les États-Unis.

Les groupes de défense des droits ont exhorté les régulateurs à bloquer toute nouvelle expansion des outils de surveillance dans les prisons et les prisons, affirmant qu'ils ont le potentiel de produire des préjugés raciaux et de porter atteinte au droit à la vie privée, sans aucun bilan clair de succès.

Dans leur lettre adressée à la Division des droits civils du DOJ, les groupes ont cité des recherches montrant que les outils de synthèse vocale ont un taux d'erreur beaucoup plus élevé pour les voix noires. Les Noirs sont représentés de manière disproportionnée parmi les prisonniers américains.

"Même en l'absence de discrimination, Verus et les technologies similaires dépassent les pouvoirs de surveillance légaux des prisons et des prisons", ont-ils écrit.

Des documents obtenus par la Fondation Thomson Reuters à partir du site pilote du comté de Suffolk ont montré que Verus avait été utilisé pour analyser plus de 2,5 millions d'appels entre son lancement en avril 2019 et mai 2020 - conduisant à 96 "rapports de renseignement exploitables".

Bien que Catalina n'ait pas précisé combien de prisonniers avaient été sanctionnés ou accusés sur la base de ces pistes, il a déclaré que l'outil avait aidé à prévenir 86 suicides.

Les groupes de défense des droits ont également fait part de leurs inquiétudes concernant la dérive de la mission, notant que la technologie avait été utilisée pour identifier les conversations qui pourraient signaler des problèmes aux administrateurs de prison ou de prison – telles que des plaintes concernant leur réponse au COVID-19.

Catalina a déclaré que le bureau du shérif revoyait mensuellement toutes ses stratégies de surveillance pour s'assurer que leurs termes utilisés dans le système Verus étaient appropriés et qu'il n'avait jamais trouvé de problèmes.

La surveillance des appels téléphoniques des détenus est particulièrement troublante dans les prisons de comté, où des personnes sont fréquemment détenues avant d'être reconnues coupables d'un crime, a déclaré Bianca Tylek, directrice exécutive de l'association de justice pénale à but non lucratif Worth Rises.

"Les personnes innocentes, (qui) ont la présomption d'innocence, qui ne peuvent pas payer une caution (...) ne devraient pas être soumises à une surveillance que personne d'autre ne l'est", a déclaré Tylek.

En plus de porter atteinte à la vie privée des personnes incarcérées et de leurs proches, la surveillance alimentée par l'IA dans les prisons et les prisons pourrait également entraîner une augmentation du coût des appels téléphoniques pour les prisonniers, craignent les militants des droits.

Selon un rapport de 2019 de la Prison Policy Initiative, un appel téléphonique moyen de 15 minutes depuis une prison coûte déjà 5,74 $, tandis que la recherche de 2015 a révélé que plus d'un tiers des familles ont déclaré s'être endettées pour payer des appels ou des visites.

Worth Rises, qui s'efforce de réduire le coût des appels téléphoniques dans les prisons à travers le pays, exhorte les forces de l'ordre nationales et locales à proposer des appels gratuits.

Les e-mails entre LEO et les bureaux du shérif, qui ont été obtenus via des demandes de documents publics, montrent que l'utilisation du système Verus de LEO peut coûter jusqu'à 8 cents par minute.

Ils donnent également une image de la façon dont l'entreprise a travaillé en tandem avec les responsables de l'application des lois pour collecter des fonds - en enrôlant du personnel de relations publiques, en aidant à rédiger des propositions de subventions fédérales et en faisant des appels aux législateurs.

Dans le comté de Suffolk, le bureau du shérif a discuté des plans pour répercuter le coût sur les prisonniers eux-mêmes si le financement de la subvention venait à manquer, révèlent les courriels.

Le bureau a déclaré que bien qu'il ait envisagé de répercuter les coûts sur les prisonniers, il a finalement décidé de ne pas le faire.

Tylek a déclaré que le gouvernement fédéral ne devrait pas financer des projets pilotes impliquant des systèmes comme Verus, avertissant que les autorités renoncent rarement aux pouvoirs de surveillance une fois qu'ils ont été accordés.

"Il (devient) presque impossible de le retirer", a-t-elle déclaré.