Problema 2305
Investigadores en China dicen que han logrado una primicia mundial al desarrollar una máquina que puede acusar a las personas de delitos utilizando [inteligencia artificial] (https://www.scmp.com/topics/artificial-intelligence?module=inline&pgtype=article).
Según los investigadores, el “fiscal” de AI puede presentar un cargo con más del 97 por ciento de precisión basándose en una descripción verbal del caso.
La máquina fue construida y probada por la Fiscalía Popular de Shanghai Pudong, la fiscalía de distrito más grande y activa del país.
La tecnología podría reducir la carga de trabajo diaria de los fiscales, permitiéndoles concentrarse en tareas más difíciles, según el profesor Shi Yong, director del laboratorio de gestión del conocimiento y big data de la Academia de Ciencias de China, quien es el científico principal del proyecto.
“El sistema puede reemplazar a los fiscales en el proceso de toma de decisiones hasta cierto punto”, dijeron Shi y sus colegas en un artículo publicado este mes en la revista nacional revisada por pares Management Review.
La aplicación de la tecnología de IA en la aplicación de la ley ha ido en aumento en todo el mundo.
Algunos fiscales alemanes han utilizado tecnología de inteligencia artificial, como reconocimiento de imágenes y análisis forense digital, para aumentar la velocidad y precisión del procesamiento de casos.
Los fiscales de China fueron los primeros en adoptarla cuando comenzaron a usar IA en 2016. Muchos de ellos ahora usan una herramienta de IA conocida como Sistema 206.
La herramienta puede evaluar la fuerza de la evidencia, las condiciones para un arresto y qué tan peligroso se considera que un sospechoso es para el público.
Pero todas las herramientas de IA existentes tienen un papel limitado, porque “no participan en el proceso de toma de decisiones de presentar cargos y [sugerir] sentencias”, dijeron Shi y sus colegas.
Tomar tales decisiones requeriría una máquina para identificar y eliminar cualquier contenido de un archivo de caso que sea irrelevante para un delito, sin eliminar la información útil.
La máquina también necesitaría convertir el lenguaje humano complejo y en constante cambio a un formato matemático o geométrico estándar que una computadora pudiera entender.
Las empresas de Internet de China han desarrollado poderosas herramientas para el procesamiento del lenguaje natural, pero su operación a menudo requiere computadoras grandes a las que los fiscales no tienen acceso.
El fiscal AI desarrollado por el equipo de Shi podría ejecutarse en una computadora de escritorio. Para cada sospechoso, presentaría un cargo basado en 1,000 "rasgos" obtenidos del texto de descripción del caso generado por humanos, la mayoría de los cuales son demasiado pequeños o abstractos para tener sentido para los humanos. El sistema 206 evaluaría entonces la evidencia.
La máquina fue “entrenada” utilizando más de 17.000 casos entre 2015 y 2020. Hasta el momento, puede identificar y presentar cargos por los ocho delitos más comunes de Shanghái.
Se trata de fraude con tarjetas de crédito, operaciones de juego, conducción peligrosa, lesiones intencionales, obstrucción de deberes oficiales, robo, fraude y “buscar peleas y provocar problemas”, un cargo general que a menudo se usa para sofocar la disidencia.
Shi y sus colegas dijeron que el fiscal AI pronto se volvería más poderoso con las actualizaciones. Sería capaz de reconocer delitos menos comunes y presentar múltiples cargos contra un sospechoso.
No estaba claro cuándo o si la tecnología encontraría aplicaciones en otros campos. No se pudo contactar al equipo para hacer comentarios cuando se publicó el informe.
Un fiscal de la ciudad sureña de Guangzhou dijo que tenía algunas preocupaciones sobre el uso de IA en la presentación de cargos.
“La precisión del 97 por ciento puede ser alta desde un punto de vista tecnológico, pero siempre habrá una posibilidad de error”, dijo el fiscal, quien pidió no ser identificado debido a la delicadeza del tema. “¿Quién asumirá la responsabilidad cuando suceda? ¿El fiscal, la máquina o el diseñador del algoritmo?
La participación directa de la IA en la toma de decisiones también podría afectar la autonomía de un fiscal humano. La mayoría de los fiscales no querían que los informáticos "se entrometieran" en un juicio legal, dijo el fiscal con sede en Guangzhou.
Otro problema es que un fiscal de AI podría presentar un cargo basándose únicamente en su experiencia previa. No podía prever la reacción del público a un caso en un entorno social cambiante.
“La IA puede ayudar a detectar un error, pero no puede reemplazar a los humanos a la hora de tomar una decisión”, dijo el fiscal.
No obstante, China está haciendo un uso agresivo de la IA en casi todos los sectores del gobierno para tratar de mejorar la eficiencia, reducir la corrupción y fortalecer el control.
Algunas ciudades chinas han utilizado máquinas para monitorear los círculos sociales y las actividades de los empleados del gobierno para detectar la corrupción, según los investigadores involucrados.
Muchos tribunales chinos han estado utilizando IA para ayudar a los jueces a procesar archivos de casos y tomar decisiones, como aceptar o rechazar una apelación.
La mayoría de las prisiones chinas también han adoptado tecnología de IA para rastrear el estado físico y mental de los presos, con el objetivo de reducir la violencia.