Incidentes Asociados
En un incidente bastante extraño, un holandés ha sido multado con 380 euros (unos 400 dólares) por usar supuestamente su teléfono móvil mientras conducía, aunque él insiste en que simplemente se estaba rascando la cabeza. Tim Hansen recibió la sanción cuando un sistema Monocam de una cámara con inteligencia artificial tomó una instantánea de una imagen en la que parecía mostrarle conversando por su teléfono móvil. Sin embargo, tras un examen más detallado, resultó que, de hecho, Hansen no tenía nada en la mano: simplemente se estaba rascando un lado de la cabeza.
Hansen, un especialista en TI que diseña algoritmos para la manipulación y el análisis de imágenes, se basó en sus conocimientos para ilustrar cómo Monocam o sistemas similares podían cometer errores. Aclaró que estos sistemas aprenden de una vasta colección de imágenes divididas en conjuntos de entrenamiento, validación y prueba. El conjunto de entrenamiento ayuda al algoritmo a comprender los objetos y sus características en las imágenes, mientras que el conjunto de validación ajusta los parámetros del algoritmo. Por último, el conjunto de prueba mide el rendimiento del sistema.
Hansen afirma que Monocam podría haber cometido un error en el sentido de que su conjunto de datos de entrenamiento probablemente incluye una gran cantidad de imágenes de personas que se llevan el teléfono a los oídos, pero pocas o ninguna de personas que se llevan las manos vacías a los oídos. Esto sugiere que, en lugar de depender de la existencia de un teléfono, el algoritmo podría haberse entrenado para reconocer un teléfono basándose en la posición de la mano.
El caso de Hansen demuestra las deficiencias de los sistemas de cámaras impulsados por IA para detectar infracciones con precisión. Todavía pueden ocurrir errores incluso con los esfuerzos para reducir los falsos positivos, como la inspección de imágenes por parte de personas. Hansen está esperando una resolución oficial sobre su disputa por la multa, que puede demorar hasta 26 semanas.
La confiabilidad de este tipo de sistemas de cámaras ha sido objeto de escrutinio en los Países Bajos y otras naciones circundantes como resultado de este incidente. Si bien algunas organizaciones están presionando para que se instalen cámaras que puedan identificar cuándo alguien está usando un teléfono mientras conduce, la experiencia de Hansen sirve como advertencia de que aún puede ser necesaria la supervisión humana porque estas tecnologías no son perfectas.