Incidentes Asociados
Con el auge de las tecnologías de inteligencia artificial, las fuerzas del orden han utilizado cada vez más herramientas de IA para ayudar a resolver delitos e incluso a poner a personas tras las rejas. Pero ahora una de estas herramientas, un programa de software conocido como Cybercheck, está en la mira.
Cybercheck "utiliza algoritmos avanzados de aprendizaje automático para analizar grandes cantidades de datos, incluidas declaraciones de testigos, evidencia forense digital, señalización móvil y otros datos de perfil cibernético", según su sitio web. Esto puede ser particularmente útil para encontrar evidencia que los investigadores humanos pueden haber pasado por alto. Pero varios investigadores han alegado problemas con el uso de la herramienta de IA y han criticado a su fundador, Adam Mosher.
¿Por qué se cuestiona a Cybercheck?
Un informe de Business Insider trajo las preocupaciones sobre Cybercheck al debate general. En particular, "se han planteado preguntas sobre el programa y su fiabilidad", dijo Business Insider. Esto es especialmente pertinente ya que hay "muchos acusados penales cuyos destinos fueron determinados en parte por el algoritmo secreto de Cybercheck".
Escápese de su cámara de eco. Conozca los hechos detrás de las noticias, además de análisis desde múltiples perspectivas.
Desde nuestra sesión informativa matutina hasta el boletín semanal de noticias Good News, reciba lo mejor de The Week directamente en su bandeja de entrada.
Esto incluye a Adarus Black, quien fue sentenciado a cadena perpetua luego de ser declarado culpable de un asesinato a tiros desde un vehículo. Los fiscales "no tenían evidencia directa que vinculara a Black con la ubicación del asesinato", dijo Business Insider, pero Mosher testificó en la corte que Cybercheck usó su algoritmo para triangular el teléfono celular de Black y "ubicarlo a unos pocos pies de la escena del crimen con más del 90% de precisión". Los jurados más tarde "dijeron que no habrían condenado a Black sin Mosher y su informe de Cybercheck".
Pero si bien existen preocupaciones sobre la metodología del programa, los abogados defensores "enfrentan una batalla cuesta arriba al tratar de desafiar la confiabilidad de la evidencia generada usando IA", dijo Business Insider. Las empresas como Cybercheck pueden "argumentar que los algoritmos y los datos de entrenamiento que impulsan estas herramientas de IA son secretos comerciales patentados de las empresas privadas que los desarrollan y, por lo tanto, no pueden divulgarse". A menudo, los fiscales no tienen acceso al código fuente de la IA, lo que significa que "corresponde a los jueces locales, que probablemente no tienen doctorados en informática ni conocimientos de matemáticas matriciales de alto nivel, decidir si conceden acceso a la defensa". Los testimonios de Mosher en el tribunal también dieron lugar a críticas, ya que un abogado "señaló inconsistencias en el currículum de Mosher, incluidos juicios en los que afirma haber testificado que nunca sucedieron y una revisión universitaria por pares que nunca se realizó".
¿Quién está luchando contra Cybercheck en los tribunales?
Más allá de las investigaciones sobre Cybercheck y programas similares, también se están planteando algunos desafíos en los tribunales. En un caso en Akron, Ohio, una empresa forense contratada para revisar la evidencia en un caso de asesinato "presentó un informe al tribunal que cuestionaba 'la precisión y legitimidad del sistema CyberCheck' por producir dos informes idénticos con diferentes fechas", dijo Business Insider. El informe añadió que es "inverosímil que el mismo número de resultados de perfiles cibernéticos, para el mismo perfil cibernético, haya sido detectado por los mismos enrutadores inalámbricos a la misma hora en dos días diferentes".
A medida que se ha extendido el uso de Cybercheck, "los abogados defensores han cuestionado su precisión y fiabilidad. Su metodología es opaca, han dicho, y no ha sido examinada de forma independiente", dijo NBC News, que también publicó un informe de investigación sobre Cybercheck. Para 2023, la herramienta "se había utilizado en casi 8.000 casos que abarcaban 40 estados y casi 300 agencias", pero algunos jueces y fiscales se han opuesto a su uso. En Nueva York, un juez "prohibió a las autoridades introducir pruebas de Cybercheck el año pasado tras haber descubierto que los fiscales no habían demostrado que fuera fiable o bien aceptada, según muestra la decisión", mientras que en otro caso en Ohio, un juez "bloqueó un análisis de Cybercheck cuando Mosher se negó a revelar la metodología del software".
Se le está "pidiendo al sistema de justicia penal que confíe en una empresa para presentar pruebas que podrían acabar llevando a gente a prisión", dijo a la NBC William Budington, tecnólogo de la organización de libertades civiles Electronic Frontier Foundation. Esto "va en contra del derecho al debido proceso".