Incidentes Asociados
Un holandés fue multado con 380 euros (400 dólares) después de que una cámara con inteligencia artificial lo captara hablando por teléfono mientras conducía. Él afirma que solo se estaba rascando la cabeza y que el sistema cometió un error.
En noviembre del año pasado, Tim Hansen recibió una multa por supuestamente hablar por teléfono móvil mientras conducía un mes antes. Se sorprendió, principalmente porque no recordaba haber usado su teléfono al volante ese día en particular, por lo que decidió verificar la foto incriminatoria en la Agencia Central de Recaudación Judicial. A primera vista, parece que Tim está efectivamente hablando por su teléfono, pero una mirada más cercana revela que en realidad no tiene nada en la mano. Simplemente se estaba rascando un lado de la cabeza y la cámara confundió la posición de su mano con la de un teléfono. Lo que es aún más desconcertante es que el humano que revisó la foto y validó su multa tampoco detectó el "falso positivo".
Hansen, que trabaja en el sector informático y crea algoritmos que editan y analizan imágenes, explicó con su experiencia personal cómo funciona el sistema de cámaras de la policía Monocam y por qué puede cometer errores. Aunque no pudo probarlo él mismo, explicó cómo está diseñado el sistema para funcionar y por qué puede producir falsos positivos.
“Si un modelo tiene que predecir si algo es ‘sí’ o ‘no’, por supuesto que también puede ocurrir que el modelo se equivoque”, escribió Tim. “En el caso de mi multa, el modelo indicó que tengo un teléfono en la mano, pero no es así. Entonces hablamos de un falso positivo. Un modelo perfecto solo predice verdaderos positivos y verdaderos negativos, pero es raro que se produzcan predicciones 100% correctas”.
El especialista en informática explicó que los sistemas como Monocam tienen que entrenarse con un gran conjunto de imágenes dividido en dos o tres grupos: un conjunto de entrenamiento, un conjunto de validación y un conjunto de prueba. El primer conjunto se utiliza para enseñar al algoritmo qué objetos están en qué imágenes y qué propiedades (colores, líneas, etc.) les pertenecen; el segundo, para optimizar una serie de hiperparámetros del algoritmo; y el tercero, para probar qué tan bien funciona realmente el sistema.
“El algoritmo que utilizamos, y el de la policía, puede sospechar que hay un teléfono presente porque el conjunto de datos de entrenamiento contiene muchos ejemplos de personas que llaman con un teléfono en la mano junto a la oreja”, dijo Tim. “Bien puede ser que el conjunto de datos de entrenamiento contenga pocas o ninguna foto de personas sentadas con una mano vacía en la oreja. En ese caso, se vuelve menos importante para el algoritmo si un teléfono está realmente sostenido en la mano, pero es suficiente si la mano está cerca de la oreja. Para mejorar esto, se deben agregar más fotos donde la mano esté vacía”.
Hansen afirma que debido a las muchas variables que pueden afectar la decisión de un algoritmo, se necesita un filtro humano para minimizar la cantidad de falsos positivos. Solo en su caso, la multa fue confirmada por un humano después de analizar la foto capturada por la cámara. Así que tampoco es una solución infalible.
El conductor holandés ha impugnado la multa y espera un resultado positivo, pero ahora tendrá que esperar hasta 26 semanas para un veredicto oficial. Su caso se ha hecho viral en Holanda y en países vecinos como Bélgica, donde algunas instituciones piden la instalación de cámaras capaces de detectar el uso del móvil al volante, pero el caso de Tims demuestra que están lejos de ser 100% fiables.