Incidentes Asociados
Tim Hansen se sorprendió cuando le dieron una multa de 400 dólares por usar su teléfono móvil mientras conducía cuando en realidad solo estaba rascándose la cabeza. Como se ve arriba, Hansen fue fotografiado por un sistema de cámara policial llamado Monocam que interpretó mal la situación.
Casualmente, Hansen es un ingeniero que trabaja en sistemas de aprendizaje automático que analizan imágenes.
"Si un modelo tiene que predecir si algo es 'sí' o 'no' el caso, por supuesto también puede suceder que el modelo esté equivocado", según una publicación de blog traducida que Nippur escribió [https://nippur.nl/tim-versus-politie-algoritme/] sobre su experiencia. "En el caso de mi multa, el modelo indicó que estoy sosteniendo un teléfono, mientras que ese no es el caso. Entonces hablamos de un falso positivo. Un modelo perfecto solo predice verdaderos positivos y verdaderos negativos, pero una predicción 100% correcta es rara".
"El algoritmo que utilizamos, y el de la policía, puede sospechar que hay un teléfono presente porque el conjunto de datos de entrenamiento contiene muchos ejemplos de personas que llaman con un teléfono en la mano junto a la oreja", escribió. "Bien puede ser que el conjunto de datos de entrenamiento contenga pocas o ninguna foto de personas sentadas con una mano vacía en la oreja. En ese caso, se vuelve menos importante para el algoritmo si un teléfono está realmente sostenido en la mano, pero es suficiente si la mano está cerca de la oreja. Para mejorar esto, se deben agregar más fotos donde la mano esté vacía".
De Oddity Central:
Hansen afirma que debido a las muchas variables que pueden afectar la decisión de un algoritmo, se necesita un filtro humano para minimizar la cantidad de falsos positivos. Solo en su caso, la multa fue confirmada por un humano después de analizar la foto capturada por la cámara, por lo que esa tampoco es una solución infalible. > El piloto holandés ha impugnado la multa y espera un resultado positivo, pero ahora tendrá que esperar hasta 26 semanas para recibir un veredicto oficial.