Problema 2304
China ha desarrollado un fiscal de inteligencia artificial que puede acusar a las personas de delitos con más del 97 por ciento de precisión, afirman los investigadores.
La máquina distópica puede identificar la 'disidencia' contra el estado y sugerir sentencias para supuestos criminales, eliminando a las personas del proceso judicial.
Ya existe el temor de que el Partido Comunista Chino pueda armar el sistema con fiscales humanos preocupados por quién asumiría la responsabilidad de las decisiones de la IA.
China ha desarrollado un fiscal de inteligencia artificial que puede acusar a las personas de delitos con más del 97 por ciento de precisión, afirman los investigadores.
La herramienta puede presentar un cargo en función de una descripción verbal del caso y fue creada y probada por la Fiscalía Popular de Shanghái Pudong, la fiscalía de distrito más grande y activa de China.
La IA permitiría a los fiscales humanos aliviar su carga de trabajo y les permitiría concentrarse solo en los casos más complejos, dijo el científico principal del proyecto, el profesor Shi Yong.
El sistema puede ejecutarse en una computadora de escritorio estándar y presentaría cargos basados en 1000 "rasgos" del texto de descripción del caso generado por humanos, el [South China Morning Post] (https://www.scmp.com/news/china/ science/article/3160997/chinese-scientists-develop-ai-prosecutor-can-press-its-own?module=perpetual_scroll_0&pgtype=article&campaign=3160997) informado.
Fue "entrenado" utilizando 17.000 casos de la vida real entre 2015 y 2020 y puede identificar y presentar cargos por los ocho delitos más comunes en Shanghái.
Estos incluyen 'provocar problemas', un término utilizado para sofocar la disidencia en China, fraude con tarjetas de crédito, delitos de apuestas, conducción peligrosa, robo, fraude, lesiones intencionales y obstrucción de funciones oficiales.
Pronto, el fiscal AI podrá reconocer más tipos de delitos y presentar múltiples cargos contra un sospechoso una vez que se actualice.
Shi dijo en un artículo publicado en la revista Management Review: "El sistema puede reemplazar a los fiscales en el proceso de toma de decisiones hasta cierto punto".
Parte de la tecnología de inteligencia artificial ya existe en la aplicación de la ley, pero esta sería la primera vez que está involucrada en la presentación de cargos.
En Alemania, el reconocimiento de imágenes y el análisis forense digital se utilizan para ayudar con los casos, mientras que China utiliza una herramienta conocida como Sistema 206 para evaluar las pruebas, el peligro potencial de un sospechoso y las condiciones para el arresto.
El gobierno chino confía cada vez más en la IA para aumentar su productividad, con máquinas ya instaladas para acabar con la corrupción y aumentar el control estatal.
Pero el sistema no tiene ningún papel en el proceso de toma de decisiones y no sugiere sentencias.
Un fiscal en Guanghzhou dice que le preocupa la nueva tecnología.
Él dijo: 'La precisión del 97 por ciento puede ser alta desde un punto de vista tecnológico, pero siempre habrá una posibilidad de error.
¿Quién asumirá la responsabilidad cuando suceda? ¿El fiscal, la máquina o el diseñador del algoritmo?
Agregó que muchos fiscales humanos no querrán que las computadoras interfieran en su trabajo.
"La IA puede ayudar a detectar un error, pero no puede reemplazar a los humanos a la hora de tomar una decisión", dijo el fiscal.
También se teme que no se mantenga al día con los estándares sociales cambiantes y que el estado pueda utilizarlo como arma.
El gobierno chino depende cada vez más de la IA para aumentar su productividad, con máquinas ya instaladas para acabar con la corrupción y aumentar el control estatal.