Incidents associés
Dans un incident plutôt bizarre, un Néerlandais a été condamné à 380 euros (environ 400 dollars) pour avoir prétendument utilisé son téléphone portable en conduisant, bien qu’il ait insisté sur le fait qu’il se grattait simplement la tête. Tim Hansen a été sanctionné lorsqu’un système Monocam d’une caméra IA a pris une photo d’une image semblant le représenter en train de converser sur son téléphone portable. Pourtant, après un examen plus approfondi, il s’est avéré que Hansen ne tenait en fait rien dans sa main – il se grattait simplement le côté de la tête.
Hansen, un spécialiste informatique qui conçoit des algorithmes à des fins de manipulation et d’analyse d’images, s’est appuyé sur ses connaissances pour illustrer les erreurs que Monocam ou des systèmes similaires pouvaient commettre. Il a précisé que ces systèmes apprennent à partir d’une vaste collection d’images divisée en ensembles d’entraînement, de validation et de test. L’ensemble d’entraînement aide l’algorithme à comprendre les objets et leurs caractéristiques dans les images, tandis que l’ensemble de validation ajuste les paramètres de l’algorithme. Enfin, l’ensemble de test évalue les performances du système.
Hansen affirme que Monocam a peut-être commis une erreur dans la mesure où son ensemble de données d’entraînement comprend très probablement un grand nombre d’images de personnes portant leur téléphone à leurs oreilles, mais peu ou pas de personnes portant leurs mains vides à leurs oreilles. Cela suggère que plutôt que de s’appuyer sur l’existence d’un téléphone, l’algorithme aurait pu être entraîné à reconnaître un téléphone en fonction de la position de la main.
L’exemple de Hansen démontre les lacunes des systèmes de caméras pilotés par l’IA dans la détection précise des infractions. Des erreurs peuvent toujours se produire même avec les efforts visant à réduire les faux positifs, comme l’inspection d’images humaines. Hansen attend une décision officielle sur son litige concernant une amende, qui pourrait prendre jusqu’à 26 semaines.
La fiabilité de ce type de systèmes de caméras a été scrutée aux Pays-Bas et dans d’autres pays voisins à la suite de cet incident. Alors que certaines organisations font pression pour l’installation de caméras capables de détecter quand une personne utilise un téléphone au volant, l’expérience de Hansen sert d’avertissement : une surveillance humaine peut toujours être nécessaire car ces technologies ne sont pas parfaites.