Problema 6772
El jefe de policía de la ciudad de Heber, Parker Sever, compareció ante el Ayuntamiento a finales de octubre e informó que un agente se había transformado en rana.
Al menos, eso fue lo que escuchó de su yerno, quien trabaja para el Departamento de Policía de West Jordan. Ese departamento implementó recientemente un software de inteligencia artificial que genera informes policiales utilizando imágenes de cámaras corporales. Los detalles no siempre son 100 % precisos, por eso los agentes los revisan.
"Leí el informe y pensé: '¡Caramba! Parece que lo escribió un agente'", recordó Sever. "Pero cuando llegó a una parte, decía: 'Y entonces el agente se transformó en rana, y apareció un libro mágico y empezó a conceder deseos'. ... Fue porque tenían puesta una especie de 'Harry Potter' de fondo. Así que captó el ruido del televisor y lo añadió al informe".
El Departamento de Policía de la ciudad de Heber está probando un software similar. Los candidatos son Code Four, una startup fundada por dos jóvenes de 19 años que abandonaron sus estudios del MIT a principios de este año, y Draft One, del gigante tecnológico policial Axon. Algunos agentes entre semana tienen acceso a Draft One, mientras que los agentes de fin de semana usan Code Four.
Los periodos de prueba gratuitos de dos meses para estos programas vencen en enero.
El atractivo de un software de IA que crea informes policiales es el ahorro de tiempo.
Axon y Code Four citan estadísticas similares que indican que los agentes de policía dedican hasta el 40 % de su tiempo a redactar informes policiales.
"Creo que la mayoría del público quiere que nuestros agentes estén en la calle, no en la oficina", dijo Sever.
Ese 'coche nuevo'
Josh Weishar, sargento del Departamento de Policía que había usado exclusivamente Draft One, testificó sobre el ahorro de tiempo el 10 de noviembre, aproximadamente una semana después del inicio del programa piloto.
Weishar opinaba que los informes policiales generados por IA solían ser más detallados que los que él mismo habría escrito.
"Un agente se basará en la información básica", dijo. "Creo que obtendrá más información, o al menos, definitivamente más detallada, que si la escribiera usted mismo, ya que solo recordará los hechos clave en lugar de todos los detalles que proporciona la IA".
Esa fue una de las razones por las que el software atrajo a la Policía de la Ciudad de Heber: un agente podría no ser tan detallado si le faltan 10 informes, dijo Sever, pero la IA siempre puede incluir el mismo nivel de detalle.
Tanto Draft One como Code Four permiten al usuario personalizar el nivel de detalle que el software de IA incluye en el informe, desde sinopsis básicas hasta relatos detallados, y pueden generar informes a partir de las interacciones en inglés y español.
La principal diferencia entre ambos software es que Draft One crea un informe basado en el audio de la cámara corporal, mientras que Code Four utiliza el audio y el vídeo de la cámara corporal.
Los informes de fin de turno, que ofrecen una visión general de los incidentes durante todo el turno, seguirán siendo redactados exclusivamente por humanos.
"La mayoría de nuestros oficiales están maravillados con Draft One porque es algo nuevo e innovador para nosotros", dijo Weishar. "Es como un coche nuevo con todas las prestaciones. Para nosotros, es increíble que con solo pulsar un botón te cuente todo sobre el caso en el que participaste y te proporcione un informe policial bastante bueno para editar".
Cómo funciona Draft One
En una demostración de Draft One, Weishar mostró que el borrador del informe está repleto de indicaciones que piden al oficial que proporcione detalles adicionales sobre ciertos elementos, como el aspecto del sospechoso o el estado de la escena del crimen. Estas indicaciones, que deben eliminarse o editarse para continuar, tienen como objetivo obligar al oficial a revisar el informe con lupa.
Una vez que ha completado las modificaciones y aprobado el informe, el oficial lo copia y pega en la base de datos del Departamento de Policía y lo envía como cualquier otro informe policial.
El informe original generado por Draft One no se conserva. Sin embargo, el software crea un registro de auditoría digital inalterable que registra quién utilizó la herramienta, cuándo la utilizó y qué pruebas se utilizaron, según el sitio web de Axon (https://www.axon.com/blog/how-draft-one-upholds-transparency-for-ai-assisted-police-reports).
El informe finaliza con una declaración activada por defecto: "Reconozco que este informe fue generado por Axon utilizando Draft One. Además, reconozco que lo he revisado en detalle, he realizado las modificaciones necesarias y creo que refleja fielmente mi recuerdo de los hechos denunciados. Si es necesario, estoy dispuesto a testificar sobre la exactitud de este informe".
La declaración se puede personalizar o desactivar.
Comparación de precios
Si el Departamento de Policía decide continuar con Draft One, costaría unos 30.000 dólares de los contribuyentes al año, según Sever.
El cofundador de Code Four, George Cheng, criticó a Axon debido a sus complementos, como almacenamiento y procesamiento de video adicionales. Estimó que su costo es de hasta $400 por agente al mes debido a estos complementos. Code Four es significativamente más económico, con $30 por agente al mes. Sever estimó que le costaría a Heber City entre $6,000 y $8,000 al año.
Cheng visitó los departamentos de policía de Taylorsville y Heber City antes del Día de Acción de Gracias para demostrar el funcionamiento del software. Realizó visitas domiciliarias similares en los departamentos de policía de Spanish Fork, South Jordan, Kaysville y Draper.
Sever afirmó que solo puede autorizar gastos hasta una cierta cantidad sin la aprobación del Ayuntamiento de Heber City. Comprar Draft One por unos $30,000 al año requeriría dicho permiso. Comprar Code Four por entre $6,000 y $8,000 al año no.
En diciembre, la Policía de Heber City se inclinaba por Code Four debido a su menor costo y su capacidad para redactar informes más completos.
Otro caso
El Departamento de Policía de la Ciudad de Heber no es la única agencia del orden público en Wasatch Back que está probando software de IA.
La Oficina del Sheriff del Condado de Summit completó recientemente un programa piloto de 90 días de Draft One con seis agentes de patrulla. El Departamento de Policía de Park City y la Oficina del Sheriff del Condado de Wasatch no han implementado ninguna práctica de software de IA.
El sargento del sheriff, Skyler Talbot, afirmó que su perspectiva sobre la IA en la policía es un equilibrio entre cautela y optimismo.
"Es importante que reconozcamos las capacidades de la IA y su gran potencial para aumentar la eficiencia operativa", declaró. "Creo que es importante que nos mantengamos a la vanguardia a medida que se desarrolla. Pero con eso... no quiero decir que debamos ser escépticos, pero definitivamente debemos ser cautelosos".
Talbot afirmó que Draft One no se utilizó para redactar informes de "incidentes graves ni de ningún incidente que pudiera resultar en cargos por delitos graves" durante el programa piloto.
El 25 de noviembre, Talbot informó a The Park Record que la Oficina del Sheriff del Condado de Summit había decidido no continuar con Draft One después del periodo de prueba gratuito.
Explicó que Draft One tiene una configuración administrativa que obliga al software de IA a insertar errores obvios en cada informe.
"Esto obligaba al agente a revisar el informe, verificar su exactitud y hacer las correcciones necesarias antes de poder continuar", explicó Talbot. En resumen, el ahorro de tiempo no fue tan significativo.
Tener activada esta configuración era fundamental si la Oficina del Sheriff del Condado de Summit iba a implementar Draft One para garantizar que los agentes leyeran el informe detenidamente y verificaran su exactitud antes de enviarlo, explicó Talbot.
Mientras tanto, el Departamento de Policía de la Ciudad de Heber no tiene activada esta configuración. Sever afirmó que desconocía su existencia y que tendría que evaluar su utilidad.
Talbot afirmó que no era "fiscalmente responsable" que la Oficina del Sheriff del Condado de Summit utilizara fondos públicos para el programa, aunque aclaró que la postura podría cambiar en cuestión de años o meses a medida que el campo evolucione.
"Reitero, esto es útil. Es una tecnología excelente para el tamaño de nuestro departamento y para nuestro volumen de llamadas", afirmó. "Simplemente tiene más sentido, al menos en este momento, hacer las cosas como las hacíamos antes".
Preocupaciones éticas
No todos son optimistas sobre los informes policiales elaborados con IA.
David Ferguson, director ejecutivo de la Asociación de Abogados de Defensa Penal de Utah, detalló algunos de los posibles inconvenientes de este tipo de software de IA. Afirmó que los informes policiales son vitales para los abogados defensores porque pueden revelar si el autor tiene algún sesgo.
Sin embargo, dado que la IA generativa puede "alucinar", equivocándose en los detalles o inventándolos por completo, sería "poco ético" que un abogado defensor aceptara sin más un informe policial elaborado por IA, lo que lo llevaría a revisar las grabaciones de la cámara corporal para verificar detalles básicos en cada vez más casos, afirmó Ferguson. Esto podría aumentar la carga de trabajo de los abogados defensores, en particular de los defensores públicos con exceso de trabajo.
Los fiscales, por otro lado, suelen basarse en las pruebas que les proporciona la policía, incluidos los informes policiales.
Un informe generado por un software de IA también tiene el potencial de modificar los recuerdos de un agente sobre un incidente. Si un agente que utilizó IA generativa para redactar un informe testificara en el tribunal, podría terminar testificando basándose en las observaciones de la IA, no en las suyas propias.
"Cuando comparamos notas, tendemos a incorporar las observaciones de otra persona a nuestra propia memoria", explicó Ferguson. Lo mismo podría decirse de las observaciones de un software de IA.
"Si la narrativa completa es lo que la cámara corporal ha captado, eso se convierte en la verdad propuesta de lo sucedido... En algún momento, ¿por qué tenemos que declarar los agentes?", preguntó Ferguson. "Es profundamente ofensivo, en cierto sentido, pensar en un sistema en el que se procesa a los humanos mediante cámaras y lo que un software determina como relevante a partir de lo que capta la cámara".
Esto puede ser especialmente problemático si la transcripción tiene dificultades para comprender el acento o el significado de la jerga. Podrían surgir más problemas con el software de video de IA. Ferguson explicó que la IA puede tener "dificultades para interpretar y comprender los rostros de las minorías", y que las observaciones atribuidas a la IA sobre las acciones, el lenguaje corporal, el comportamiento y las expresiones faciales de una persona podrían malinterpretarse, especialmente entre las comunidades minoritarias.
Según Axon, los estudios sobre sesgo racial en el Borrador Uno "no pudieron detectar una diferencia estadísticamente significativa en la integridad, la coherencia o la severidad de la elección de palabras entre razas". Los estudios evaluaron si las transcripciones generadas por IA diferían según la raza. En abril de 2024, la compañía anunció la publicación de un informe más detallado sobre los estudios. Sin embargo, The Park Record no pudo encontrar información adicional sobre los estudios de sesgo racial.
La falta de transparencia fue otra de las preocupaciones de Ferguson, ya que las empresas privadas no están sujetas a las mismas leyes de transparencia, como la Ley de Libertad de Información y la Ley de Privacidad, que una agencia gubernamental. Esto podría dificultar que los abogados defensores o el público analicen a fondo el software para comprender mejor su funcionamiento.
También se mostró escéptico respecto a que los informes policiales elaborados con IA fueran revisados adecuadamente por los agentes antes de su aprobación.
"El problema no es un agente capaz de condensar una hora de trabajo en 10 minutos. El problema es el agente que dice: 'Puedo hacerlo aún mejor. Puedo condensar esto en 30 segundos'. ... Hay que tener la cabeza enterrada para pensar que eso no se convertirá en algo normal entre algunos agentes, e incluso culturalmente aceptado en algunos departamentos", afirmó Ferguson. Pero Sever cree que cualquier informe erróneo se detectará en el proceso administrativo.
"Una vez que un agente de policía aprueba un informe policial, este se envía a un supervisor. Este supervisor debe revisarlo para verificar su integridad y precisión, y luego aprobarlo", explicó. "Luego, nuestro departamento de registros recibe el informe... y muchas veces, son ellos los que también rechazan los informes por algo que ven".
Un agente que continuamente no revise los informes elaborados con inteligencia artificial antes de presentarlos será sancionado y posiblemente despedido.
Mirando hacia el futuro
Sever dijo que la única razón por la que el departamento podría no implementar de inmediato uno de estos programas es si no se ajusta al ciclo presupuestario actual.
"Un agente en la comisaría no influye en la reducción de la velocidad de las personas en la carretera. No están disponibles para responder a una llamada de manera oportuna", dijo Sever. "Cuando podamos sacarlos de la comisaría, en la carretera, es cuando el público los verá, y es entonces cuando se mejora el comportamiento de las personas".
Los comentarios de los oficiales también parecen haber sido positivos.
"Uno de mis sargentos no es muy experto en tecnología, pero está muy entusiasmado con esto", dijo Sever. "Dice: 'Volví a la comisaría. Este informe me habría llevado una hora, y me llevó ocho minutos'".