Problème 2305

Des chercheurs en Chine affirment avoir réalisé une première mondiale en développant une machine capable d'accuser des personnes de crimes en utilisant l'intelligence artificielle.

Selon les chercheurs, le "procureur" de l'IA peut déposer une plainte avec une précision de plus de 97% sur la base d'une description verbale de l'affaire.

La machine a été construite et testée par le Parquet populaire de Shanghai Pudong, le parquet de district le plus important et le plus actif du pays.

La technologie pourrait réduire la charge de travail quotidienne des procureurs, leur permettant de se concentrer sur des tâches plus difficiles, selon le professeur Shi Yong, directeur du laboratoire de gestion des mégadonnées et des connaissances de l'Académie chinoise des sciences, qui est le scientifique principal du projet.

"Le système peut remplacer les procureurs dans le processus décisionnel dans une certaine mesure", ont déclaré Shi et ses collègues dans un article publié ce mois-ci dans la revue nationale à comité de lecture Management Review.

L'application de la technologie de l'IA dans l'application de la loi a augmenté dans le monde entier.

Certains procureurs allemands ont utilisé des technologies d'intelligence artificielle telles que la reconnaissance d'images et la criminalistique numérique pour augmenter la vitesse et la précision du traitement des affaires.

Les procureurs chinois ont été les premiers à adopter l'IA en 2016. Beaucoup d'entre eux utilisent désormais un outil d'IA connu sous le nom de System 206.

L'outil peut évaluer la force des preuves, les conditions d'une arrestation et le degré de dangerosité d'un suspect pour le public.

Mais tous les outils d'IA existants ont un rôle limité, car "ils ne participent pas au processus de prise de décision consistant à déposer des accusations et à [suggérer] des peines", ont déclaré Shi et ses collègues.

Prendre de telles décisions nécessiterait une machine pour identifier et supprimer tout contenu d'un dossier qui n'est pas pertinent pour un crime, sans supprimer les informations utiles.

La machine aurait également besoin de convertir un langage humain complexe et en constante évolution en un format mathématique ou géométrique standard qu'un ordinateur pourrait comprendre.

Les sociétés Internet chinoises ont développé de puissants outils de traitement du langage naturel, mais leur fonctionnement nécessite souvent de gros ordinateurs auxquels les procureurs n'ont pas accès.

Le procureur de l'IA développé par l'équipe de Shi pourrait fonctionner sur un ordinateur de bureau. Pour chaque suspect, il appuierait sur une charge basée sur 1 000 "traits" obtenus à partir du texte de description de cas généré par l'homme, dont la plupart sont trop petits ou abstraits pour avoir un sens pour les humains. Le système 206 évaluerait alors les preuves.

La machine a été "formée" en utilisant plus de 17 000 cas de 2015 à 2020. Jusqu'à présent, elle peut identifier et porter plainte pour les huit crimes les plus courants de Shanghai.

Il s'agit de la fraude à la carte de crédit, de la gestion d'une opération de jeu, de la conduite dangereuse, des blessures intentionnelles, de l'entrave aux fonctions officielles, du vol, de la fraude et de "se disputer et de provoquer des troubles" - une accusation fourre-tout souvent utilisée pour étouffer la dissidence.

Shi et ses collègues ont déclaré que le procureur de l'IA deviendrait bientôt plus puissant avec des mises à niveau. Il serait en mesure de reconnaître des crimes moins courants et de déposer plusieurs accusations contre un suspect.

Il n'était pas clair quand ou si la technologie trouverait des applications dans d'autres domaines. L'équipe n'a pas pu être jointe pour commenter lorsque le rapport a été publié.

Un procureur de la ville méridionale de Guangzhou a déclaré qu'il avait des inquiétudes quant à l'utilisation de l'IA pour porter plainte.

"La précision de 97% peut être élevée d'un point de vue technologique, mais il y aura toujours un risque d'erreur", a déclaré le procureur, qui a demandé à ne pas être nommé en raison de la sensibilité de la question. « Qui assumera la responsabilité quand cela arrivera ? Le procureur, la machine ou le concepteur de l'algorithme ?

L'implication directe de l'IA dans la prise de décision pourrait également affecter l'autonomie d'un procureur humain. La plupart des procureurs ne voulaient pas que les informaticiens « se mêlent » d'un jugement judiciaire, a déclaré le procureur basé à Guangzhou.

Un autre problème est qu'un procureur d'AI pourrait déposer une plainte uniquement sur la base de son expérience antérieure. Il ne pouvait pas prévoir la réaction du public à une affaire dans un environnement social changeant.

"L'IA peut aider à détecter une erreur, mais elle ne peut pas remplacer les humains pour prendre une décision", a déclaré le procureur.

Néanmoins, la Chine fait un usage agressif de l'IA dans presque tous les secteurs du gouvernement pour essayer d'améliorer l'efficacité, de réduire la corruption et de renforcer le contrôle.

Certaines villes chinoises ont utilisé des machines pour surveiller les cercles sociaux et les activités des employés du gouvernement afin de détecter la corruption, selon les chercheurs impliqués.

De nombreux tribunaux chinois utilisent l'IA pour aider les juges à traiter les dossiers et à prendre des décisions telles que l'acceptation ou le rejet d'un appel.

La plupart des prisons chinoises ont également adopté la technologie de l'IA pour suivre l'état physique et mental des détenus, dans le but de réduire la violence.