Problème 2304

La Chine a mis au point un procureur doté d'intelligence artificielle qui peut accuser des personnes de crimes avec une précision de plus de 97 %, affirment les chercheurs.

La machine dystopique peut identifier la «dissidence» contre l'État et suggérer des peines pour les criminels présumés, excluant les personnes du processus de poursuite.

On craint déjà que le système ne soit armé par le Parti communiste chinois avec des procureurs humains soucieux de savoir qui assumerait la responsabilité des décisions de l'IA.

La Chine a mis au point un procureur doté d'une intelligence artificielle capable d'accuser des personnes de crimes avec une précision de plus de 97%, selon des chercheurs

L'outil peut déposer une plainte sur la base d'une description verbale de l'affaire et a été conçu et testé par le parquet populaire de Shanghai Pudong, le bureau des procureurs de district le plus grand et le plus actif de Chine.

L'IA permettrait aux procureurs humains d'alléger leur charge de travail et de se concentrer uniquement sur les affaires les plus complexes, a déclaré le scientifique principal du projet, le professeur Shi Yong.

Le système peut fonctionner sur un ordinateur de bureau standard et engagerait des poursuites basées sur 1 000 "traits" du texte de description de cas généré par l'homme, le [South China Morning Post](https://www.scmp.com/news/china/ science/article/3160997/chinese-scientists-develop-ai-procecutor-can-press-its-own?module=perpetual_scroll_0&pgtype=article&campaign=3160997) signalé.

Il a été «formé» à l'aide de 17 000 cas réels de 2015 à 2020 et est capable d'identifier et de porter plainte pour les huit crimes les plus courants à Shanghai.

Il s'agit notamment de "provoquer des troubles" - un terme utilisé pour étouffer la dissidence en Chine, la fraude par carte de crédit, les délits de jeu, la conduite dangereuse, le vol, la fraude, les blessures intentionnelles et l'obstruction aux fonctions officielles.

Bientôt, le procureur de l'IA sera en mesure de reconnaître plus de types de crimes et de porter plusieurs accusations contre un suspect une fois qu'il sera mis à niveau.

Shi a déclaré dans un article publié dans la revue Management Review : "Le système peut remplacer les procureurs dans le processus décisionnel dans une certaine mesure."

Certaines technologies d'intelligence artificielle existent déjà dans les forces de l'ordre, mais ce serait la première fois qu'elles sont impliquées dans des poursuites.

En Allemagne, la reconnaissance d'images et la criminalistique numérique sont utilisées pour faciliter la gestion des dossiers, tandis que la Chine utilise un outil connu sous le nom de Système 206 pour évaluer les preuves, le danger potentiel d'un suspect et les conditions d'arrestation.

Le gouvernement chinois s'appuie de plus en plus sur l'IA pour augmenter sa productivité, avec des machines déjà en place pour réprimer la corruption et accroître le contrôle de l'État

Mais le système n'a aucun rôle dans le processus décisionnel et ne propose pas de peines.

Un procureur de Guangzhou se dit préoccupé par la nouvelle technologie.

Il a déclaré: «La précision de 97% peut être élevée d'un point de vue technologique, mais il y aura toujours un risque d'erreur.

« Qui assumera la responsabilité quand cela arrivera ? Le procureur, la machine ou le concepteur de l'algorithme ?

Il a ajouté que de nombreux procureurs humains ne voudront pas que les ordinateurs interfèrent dans leur travail.

"L'IA peut aider à détecter une erreur, mais elle ne peut pas remplacer les humains pour prendre une décision", a déclaré le procureur.

On craint également qu'il ne parvienne pas à suivre l'évolution des normes sociales et qu'il soit transformé en arme par l'État.

Le gouvernement chinois s'appuie de plus en plus sur l'IA pour augmenter sa productivité, avec des machines déjà en place pour réprimer la corruption et accroître le contrôle de l'État.