Entités
Voir toutes les entitésClassifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
36
AI Tangible Harm Level Notes
3.5 - Although no harm occurred because the mistake was identified, Risk to the affected party was imminent.
Special Interest Intangible Harm
no
Date of Incident Year
2018
Date of Incident Month
11
Date of Incident Day
21
Classifications de taxonomie CSETv0
Détails de la taxonomieProblem Nature
Robustness
Physical System
Software only, Other:CCTV cameras, displays
Level of Autonomy
Medium
Nature of End User
Amateur
Public Sector Deployment
Yes
Data Inputs
photographs of people's facial features
Classifications de taxonomie GMF
Détails de la taxonomieKnown AI Goal Snippets
(Snippet Text: Chinese AI traffic cam mistook a bus ad for a human and publicly shamed the CEO it depicted for jaywalking
, Related Classifications: Face Recognition)
Known AI Goal Classification Discussion
Face Recognition: i.e. the context of ‘not a living human’ was not detected in order to produce a negative result on the face detection part of the recognition pipeline.
Risk Subdomain
7.3. Lack of capability or robustness
Risk Domain
- AI system safety, failures, and limitations
Entity
AI
Timing
Post-deployment
Intent
Unintentional
Rapports d'incidents
Chronologie du rapport
La caméra chinoise de trafic AI a confondu une publicité de bus avec un humain et a publiquement fait honte au PDG qu'elle dépeint pour avoir fait du jaywalking
La guerre de la Chine contre le jaywalking est passée au niveau supérieur au pr…
Des villes à travers la Chine ont lancé en grande pompe la technologie de reconnaissance faciale pour lutter contre le crime au cours de l'année écoulée. Mais certains de ces appareils anti-jaywalker ne sont pas aussi impressionnants qu'ils…
Les systèmes de reconnaissance faciale de la Chine sont utilisés pour attraper tous les types de criminels, des voleurs aux trafiquants, en temps réel. Cette semaine, une caméra de reconnaissance faciale a publiquement fait honte à une célè…
La police a depuis supprimé l'infraction et affirme avoir amélioré la technologie de reconnaissance faciale pour "réduire le taux de fausses reconnaissances", bien que l'on ne sache pas exactement ce qu'elle aurait pu faire pour résoudre ce…
Alors que la Chine a devancé le reste du monde en intégrant la technologie de reconnaissance faciale dans la vie quotidienne des gens, il existe des systèmes dans le pays qui doivent être peaufinés. L'expérience récente de Dong Mingzhu, pré…
NurPhoto
La Chine dépend de plus en plus des systèmes de reconnaissance faciale pour nommer et blâmer les citoyens qui se promènent, mais elle aurait rencontré un problème cette semaine.
Une caméra à une intersection de la ville orientale d…
La Chine n'a pas hésité à utiliser la technologie de reconnaissance faciale pour attraper les piétons et les humilier publiquement.
La technologie vise à dissuader les mauvais comportements en reconnaissant le visage du délinquant, en le vé…
Alors que la Chine a devancé le reste du monde en intégrant la technologie de reconnaissance faciale dans la vie quotidienne des gens, il existe des systèmes dans le pays qui doivent être peaufinés.
L'expérience récente de Dong Mingzhu, pré…
SI VOUS COMPTEZ sur la reconnaissance faciale pour certains aspects de votre système de justice pénale, vous feriez mieux d'espérer qu'il est fiable. Il peut donc être rassurant pour les personnes inquiètes que la Chine utilise la technolog…
Le visage de Dong Mingzhu, présidente de Gree Electric Appliances, société cotée à Shenzhen, est éclaboussé sur un immense écran érigé le long d'une rue de Ningbo, une ville de la province côtière orientale du Zhejiang, pour afficher les im…
Publicité sur les erreurs de reconnaissance faciale chinoise pour Jaywalker
La Chine utilise la reconnaissance de la marche ainsi que la reconnaissance faciale pour automatiser la billetterie des jaywalkers, tout comme les caméras sont util…
La police chinoise a admis avoir fait honte à tort à une célèbre femme d'affaires après qu'un système de reconnaissance faciale conçu pour attraper les passants ait confondu une publicité sur le côté d'un bus avec son vrai visage.
Dong Ming…
Les villes chinoises ont largement déployé des systèmes de reconnaissance faciale dans leurs rues pour attraper et sanctionner les promeneurs, mais parfois ils ne fonctionnent pas comme prévu.
À une intersection de la ville de Ningbo, dans …
Un système déployé par le gouvernement chinois pour identifier les promeneurs, utilisant apparemment la reconnaissance faciale en temps réel, a identifié par erreur une célébrité comme une délinquante après avoir scanné son visage à partir …
Reconnaissance faciale de l'IA - tout est aussi terrifiant que le suggère cette image de stock hokey (dont le sujet n'est * pas * Dong Mingzhu).
#F_AI_L Un système d'intelligence artificielle en Chine a publiquement fait honte à l'un des di…
Une caméra de circulation en Chine confond une publicité de bus avec un vrai visage humain
Radio Nationale Publique
mardi 27 novembre 2018
Écouter / Mettre à jour requis Pour lire l'audio, mettre à jour le navigateur ou Pour lire l'audio, m…
Photo : Getty
Le système de surveillance chinois devient de plus en plus omniprésent, avec environ 200 millions de caméras et plus encore. Bien que cet état d'existence à lui seul soit troublant, il est encore plus troublant que les machine…
Une caméra de circulation en Chine confond une publicité de bus avec un vrai visage humain
Si vous êtes pris en flagrant délit de jaywalking en Chine, votre photo pourrait être exposée en guise de punition. Tout comme une femme dont le visa…
Des systèmes d'IA trop zélés en Chine ont accusé une femme photographiée sur le côté d'un bus de jaywalking.
Le visage de Dong Mingzhu, qui dirige le plus grand fabricant de climatiseurs de Chine, a été brièvement montré sur un panneau d'af…
Une femme a été signalée pour jaywalking par une technologie de reconnaissance faciale dans une ville chinoise, mais elle n'était même pas là.
La femme en question était Dong Mingzhu, présidente du plus grand fabricant chinois de climatiseu…
Ce n'est pas un gros problème de jaywalk en Inde. Huit fois sur dix, personne ne le remarquera. Mais si vous vous promenez en Chine, vous devrez peut-être faire face à quelque chose d'extrêmement embarrassant. Alors que la Chine a devancé l…
L'intelligence artificielle conçue pour faire honte aux jaywalkers de Ningbo, en Chine, s'est retournée contre elle ces derniers jours en identifiant à tort une femme dans une publicité sur le côté d'un bus de la ville comme coupable de jay…
En décembre dernier, Synced a compilé son premier récapitulatif des "échecs de l'intelligence artificielle" des gaffes de l'IA de l'année précédente. L'IA a réalisé des progrès remarquables et de nombreux scientifiques rêvent de créer l'alg…
Dong Mingzhu, président de Gree electronic appliances, lors de la conférence APEC 2018 le 7 juillet 2018. [Photo/VCG]
La reine chinoise de l'électroménager Dong Mingzhu a été confirmée pour entrer dans sa septième année en tant que présiden…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents