Incidents associés
Tim Hansen a déclaré que l'IA pensait qu'il utilisait son téléphone au volant, mais qu'en fait, il se grattait la tête.
L'intelligence artificielle a commis une énorme erreur en accusant et en condamnant à une amende un Néerlandais pour avoir utilisé son téléphone au volant, alors qu'en réalité, il se grattait simplement la tête.
En novembre dernier, Tim Hansen a reçu une amende de 380 € (410 $) pour avoir prétendument parlé sur son téléphone portable au volant. Il a également été condamné à payer 9 € (10 $) supplémentaires de frais administratifs. Un mois auparavant, il avait été photographié par un système de caméra de police appelé Monocam, qui fonctionne grâce à l'IA.
L'ingénieur, qui travaille par coïncidence sur des systèmes d'apprentissage automatique analysant des images avec la société Nippur, a été choqué de recevoir l'amende car il ne se souvenait pas d'avoir utilisé le téléphone au volant ce jour-là. Il a décidé de vérifier la photo prise par la caméra de l'Agence centrale de recouvrement judiciaire.
Si un premier regard peut sembler montrer qu'il tient son téléphone à côté de son visage, il est alors clair qu'il n'a aucun appareil dans la main. M. Hansen a révélé qu'il se grattait le côté de la tête - et la caméra IA a confondu la position de sa main avec celle d'un téléphone.
Il a rappelé l'incident dans un article de blog publié sur le site Web de l'entreprise pour laquelle il travaille et a déclaré que son ticket était un "faux positif". Il a déclaré : "Si un modèle doit prédire si quelque chose est "oui" ou "non" le cas, il peut bien sûr aussi arriver que le modèle se trompe. Dans le cas de mon ticket, le modèle a indiqué que je tenais un téléphone, alors que ce n'est pas le cas. On parle alors d'un faux positif".
Le spécialiste informatique a déclaré que les systèmes tels que Monocam doivent être entraînés sur un grand nombre d'images et qu'en raison des nombreuses variables qui peuvent influencer la décision d'un algorithme, un filtre humain est nécessaire pour minimiser le nombre de faux positifs. Dans ce cas, l'amende a été confirmée par un humain après avoir analysé la photo prise par la caméra.
Le conducteur a contesté l'amende et doit maintenant attendre jusqu'à 26 semaines pour un verdict officiel. L'affaire est devenue virale aux Pays-Bas et dans les pays voisins où certaines institutions demandent désormais l'installation de caméras capables de détecter avec précision si quelqu'un utilise son téléphone portable au volant.
L'utilisation de l'IA se généralisant, les experts ont lancé un avertissement effrayant selon lequel les machines pourraient prendre tous nos emplois 50 ans plus tôt que prévu. Plus de 2 700 chercheurs ont été interrogés sur l'avenir de l'emploi et sur les risques que courent les humains face aux machines dans le cadre de « la plus grande enquête de ce type ». Les résultats suggèrent une probabilité de 50 % que les machines prennent le relais de tous nos emplois au cours du siècle prochain.
Lorsqu'on leur a demandé à quel moment les machines pourraient travailler « mieux et à moindre coût » que les humains « pour n'importe quelle profession », les experts ont répondu que cela pourrait se produire d'ici 2116, soit près de 50 ans plus tôt que la même prédiction de l'année dernière. Le géant bancaire Goldman Sachs a prédit que jusqu'à 300 millions de postes sont déjà menacés dans le monde entier, alors que l'IA continue de progresser à un rythme accéléré.