Incidents associés
Avec l'essor des technologies d'intelligence artificielle, les forces de l'ordre ont de plus en plus recours à des outils d'IA pour les aider à résoudre des crimes, et même à mettre des personnes derrière les barreaux. Mais aujourd'hui, l'un de ces outils, un logiciel connu sous le nom de Cybercheck, est sur la sellette.
Cybercheck « utilise des algorithmes d'apprentissage automatique avancés pour analyser de vastes quantités de données, notamment des déclarations de témoins, des preuves médico-légales numériques, des signaux mobiles et d'autres données de profils cybernétiques », selon son site Web. Cela peut être particulièrement utile pour trouver des preuves que des enquêteurs humains auraient pu manquer. Mais plusieurs enquêteurs ont allégué des problèmes avec l'utilisation de l'outil d'IA et ont critiqué son fondateur, Adam Mosher.
Pourquoi Cybercheck est-il remis en question ?
Un rapport de Business Insider a fait entrer les inquiétudes concernant Cybercheck dans le débat général. En particulier, des questions « ont été soulevées sur le programme et sa fiabilité », a déclaré Business Insider. Cela est particulièrement pertinent car il y a « de nombreux accusés dont le sort a été déterminé en partie par l'algorithme secret de Cybercheck ».
Échappez à votre chambre d'écho. Obtenez les faits derrière l'actualité, ainsi qu'une analyse sous plusieurs angles.
De notre point de presse du matin à une newsletter hebdomadaire Good News, recevez le meilleur de The Week directement dans votre boîte de réception.
De notre point de presse du matin à une newsletter hebdomadaire Good News, recevez le meilleur de The Week directement dans votre boîte de réception.
Cela inclut Adarus Black, qui a été condamné à la prison à vie après avoir été reconnu coupable d'un meurtre par balle au volant. Les procureurs « n'avaient aucune preuve directe reliant Black au lieu du meurtre », a déclaré Business Insider, mais Mosher a témoigné devant le tribunal que Cybercheck avait utilisé son algorithme pour trianguler le téléphone portable de Black et « le placer à quelques mètres de la scène du crime avec une précision de plus de 90 % ». Les jurés ont plus tard « déclaré qu'ils n'auraient pas condamné Black sans Mosher et son rapport Cybercheck ».
Mais si la méthodologie du programme suscite des inquiétudes, les avocats de la défense « sont confrontés à une bataille difficile pour tenter de contester la fiabilité des preuves générées à l'aide de l'IA », a déclaré Business Insider. Des entreprises comme Cybercheck peuvent « faire valoir que les algorithmes et les données de formation qui alimentent ces outils d'IA sont des secrets commerciaux exclusifs des entreprises privées qui les développent et ne peuvent donc pas être divulgués ». Souvent, les procureurs n'ont pas accès au code source de l'IA, ce qui signifie qu'il « revient aux juges locaux, qui n'ont probablement pas de doctorat en informatique ou une compréhension des mathématiques matricielles de haut niveau, de décider d'accorder ou non l'accès à la défense ». Les témoignages de Mosher devant le tribunal ont également suscité des critiques, un avocat « ayant dénoncé des incohérences dans le CV de Mosher, notamment des procès auxquels il prétend avoir témoigné et qui n'ont jamais eu lieu et une évaluation universitaire par des pairs qui n'a jamais été effectuée ».
Qui combat Cybercheck devant les tribunaux ?
Au-delà des enquêtes sur Cybercheck et des programmes similaires, certains défis sont également lancés dans les salles d'audience. Dans un cas à Akron, dans l'Ohio, une société de criminalistique engagée pour examiner les preuves dans une affaire de meurtre « a soumis un rapport au tribunal remettant en question « l'exactitude et la légitimité du système CyberCheck » pour avoir produit deux rapports identiques avec des dates différentes », a déclaré Business Insider. Le rapport ajoute qu'il est « peu plausible que le même nombre de cyber-profils, pour le même profil, ait été détecté par les mêmes routeurs sans fil au même moment sur deux jours différents ».
Alors que l'utilisation de Cybercheck s'est répandue, « les avocats de la défense ont mis en doute son exactitude et sa fiabilité. Sa méthodologie est opaque, ont-ils déclaré, et elle n'a pas été vérifiée de manière indépendante », a déclaré NBC News, qui a également publié un rapport d'enquête sur Cybercheck. En 2023, l'outil « avait été utilisé dans près de 8 000 affaires couvrant 40 États et près de 300 agences », mais certains juges et procureurs se sont opposés à son utilisation. À New York, un juge « a interdit aux autorités de présenter des preuves Cybercheck l'année dernière après avoir constaté que les procureurs n'avaient pas démontré que ce logiciel était fiable ou bien accepté », tandis que dans une autre affaire en Ohio, un juge « a bloqué une analyse Cybercheck lorsque Mosher a refusé de divulguer la méthodologie du logiciel ».
Le système de justice pénale « est invité à faire confiance à une entreprise pour présenter des preuves qui pourraient éventuellement envoyer des gens en prison », a déclaré à NBC William Budington, un technologue de l'organisation de défense des libertés civiles Electronic Frontier Foundation. Cela « va à l'encontre du droit à une procédure régulière ».