Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 36: Picture of Woman on Side of Bus Shamed for Jaywalking

Description: Facial recognition system in China mistakes celebrity's face on moving billboard for jaywalker

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Ningbo traffic police, a endommagé Dong Mingzhu.

Statistiques d'incidents

ID
36
Nombre de rapports
24
Date de l'incident
2018-11-06
Editeurs
Sean McGregor
Applied Taxonomies
CSETv0, GMF, CSETv1, MIT

Classifications de taxonomie CSETv0

Détails de la taxonomie

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Robustness

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only, Other:CCTV cameras, displays

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

Medium

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

Yes

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

photographs of people's facial features

Classifications de taxonomie GMF

Détails de la taxonomie

Known AI Goal Snippets

One or more snippets that justify the classification.
 

(Snippet Text: Chinese AI traffic cam mistook a bus ad for a human and publicly shamed the CEO it depicted for jaywalking

, Related Classifications: Face Recognition)

Known AI Goal Classification Discussion

Free text with comments justifying the chosen classification (e.g. based on information on selected snippets and technical analysis), if needed.
 

Face Recognition: i.e. the context of ‘not a living human’ was not detected in order to produce a negative result on the face detection part of the recognition pipeline.

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

36

AI Tangible Harm Level Notes

Notes about the AI tangible harm level assessment
 

3.5 - Although no harm occurred because the mistake was identified, Risk to the affected party was imminent.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

no

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2018

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

11

Date of Incident Day

The day on which the incident occurred. If a precise date is unavailable, leave blank. Enter in the format of DD
 

21

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

+1
La caméra chinoise de trafic AI a confondu une publicité de bus avec un humain et a publiquement fait honte au PDG qu'elle dépeint pour avoir fait du jaywalking
+8
Le système chinois de reconnaissance faciale confond un visage dans un bus avec un jaywalker
+11
Publicité sur les erreurs de reconnaissance faciale chinoise pour Jaywalker
2018 en revue : 10 échecs de l'IADong Mingzhu réélu à la tête de Gree
La caméra chinoise de trafic AI a confondu une publicité de bus avec un humain et a publiquement fait honte au PDG qu'elle dépeint pour avoir fait du jaywalking

La caméra chinoise de trafic AI a confondu une publicité de bus avec un humain et a publiquement fait honte au PDG qu'elle dépeint pour avoir fait du jaywalking

boingboing.net

Le système chinois de reconnaissance faciale confond un visage dans un bus avec un jaywalker

Le système chinois de reconnaissance faciale confond un visage dans un bus avec un jaywalker

theverge.com

L'IA se trompe dans une publicité côté bus pour le célèbre PDG et l'accuse de Jaywalking

L'IA se trompe dans une publicité côté bus pour le célèbre PDG et l'accuse de Jaywalking

caixinglobal.com

Un système de reconnaissance faciale chinois attrape un jaywalker, s'avère être un bus

Un système de reconnaissance faciale chinois attrape un jaywalker, s'avère être un bus

mashable.com

Un système de reconnaissance faciale en Chine confond le visage d'une célébrité sur un panneau d'affichage en mouvement avec un jaywalker - News 24

Un système de reconnaissance faciale en Chine confond le visage d'une célébrité sur un panneau d'affichage en mouvement avec un jaywalker - News 24

thestar.com.my

Le système chinois de reconnaissance faciale confond une publicité de bus avec un jaywalker

Le système chinois de reconnaissance faciale confond une publicité de bus avec un jaywalker

engadget.com

La reconnaissance faciale surprend la reine chinoise de l'escroquerie aérienne Dong Mingzhu, mais s'avère être...

La reconnaissance faciale surprend la reine chinoise de l'escroquerie aérienne Dong Mingzhu, mais s'avère être...

article.wn.com

Un système de reconnaissance faciale accuse une femme dans une publicité de bus de jaywalking

Un système de reconnaissance faciale accuse une femme dans une publicité de bus de jaywalking

theinquirer.net

La reconnaissance faciale piège la reine chinoise de l'air conditionné Dong Mingzhu pour jaywalking, mais ce n'est pas ce qu'il semble

La reconnaissance faciale piège la reine chinoise de l'air conditionné Dong Mingzhu pour jaywalking, mais ce n'est pas ce qu'il semble

scmp.com

Le système de reconnaissance faciale confond une publicité de bus avec un jaywalker

Le système de reconnaissance faciale confond une publicité de bus avec un jaywalker

cnet.com

Publicité sur les erreurs de reconnaissance faciale chinoise pour Jaywalker

Publicité sur les erreurs de reconnaissance faciale chinoise pour Jaywalker

technovelgy.com

Une femme d'affaires chinoise accusée de jaywalking après qu'une caméra AI ait repéré son visage sur une publicité

Une femme d'affaires chinoise accusée de jaywalking après qu'une caméra AI ait repéré son visage sur une publicité

telegraph.co.uk

Une femme d'affaires en Chine surprise en "jaywalking" parce que son visage était dans un bus

Une femme d'affaires en Chine surprise en "jaywalking" parce que son visage était dans un bus

techinasia.com

Un système de reconnaissance faciale en Chine confond une publicité de bus avec un jaywalker

Un système de reconnaissance faciale en Chine confond une publicité de bus avec un jaywalker

biometricupdate.com

L'IA casse le titan des affaires

L'IA casse le titan des affaires

theregister.co.uk

Une caméra de circulation en Chine confond une publicité de bus avec un vrai visage humain

Une caméra de circulation en Chine confond une publicité de bus avec un vrai visage humain

npr.org

Une caméra de circulation en Chine confond une publicité de bus avec un vrai visage humain

Une caméra de circulation en Chine confond une publicité de bus avec un vrai visage humain

capradio.org

La reconnaissance faciale signale à une femme dans un bus une publicité pour « Jaywalking » en Chine

La reconnaissance faciale signale à une femme dans un bus une publicité pour « Jaywalking » en Chine

gizmodo.com.au

Une IA chinoise prise au dépourvu dans une publicité pour un bus

Une IA chinoise prise au dépourvu dans une publicité pour un bus

bbc.com

La reconnaissance faciale chinoise signale une femme dans un bus pour avoir fait du jaywalking

La reconnaissance faciale chinoise signale une femme dans un bus pour avoir fait du jaywalking

iottechnews.com

La caméra AI chinoise confond la photo du PDG sur le bus en mouvement avec une personne réelle et la fait honte pour Jaywalking

La caméra AI chinoise confond la photo du PDG sur le bus en mouvement avec une personne réelle et la fait honte pour Jaywalking

indiatimes.com

Jaywalking AI fait honte à tort à une femme dans une publicité

Jaywalking AI fait honte à tort à une femme dans une publicité

insights.globalspec.com

2018 en revue : 10 échecs de l'IA

2018 en revue : 10 échecs de l'IA

medium.com

Dong Mingzhu réélu à la tête de Gree

Dong Mingzhu réélu à la tête de Gree

chinadaily.com.cn

La caméra chinoise de trafic AI a confondu une publicité de bus avec un humain et a publiquement fait honte au PDG qu'elle dépeint pour avoir fait du jaywalking
boingboing.net · 2018
Traduit par IA

La caméra chinoise de trafic AI a confondu une publicité de bus avec un humain et a publiquement fait honte au PDG qu'elle dépeint pour avoir fait du jaywalking

La guerre de la Chine contre le jaywalking est passée au niveau supérieur au pr…

Le système chinois de reconnaissance faciale confond un visage dans un bus avec un jaywalker
theverge.com · 2018
Traduit par IA

Les systèmes de reconnaissance faciale de la Chine sont utilisés pour attraper tous les types de criminels, des voleurs aux trafiquants, en temps réel. Cette semaine, une caméra de reconnaissance faciale a publiquement fait honte à une célè…

L'IA se trompe dans une publicité côté bus pour le célèbre PDG et l'accuse de Jaywalking
caixinglobal.com · 2018
Traduit par IA

Des villes à travers la Chine ont lancé en grande pompe la technologie de reconnaissance faciale pour lutter contre le crime au cours de l'année écoulée. Mais certains de ces appareils anti-jaywalker ne sont pas aussi impressionnants qu'ils…

Un système de reconnaissance faciale chinois attrape un jaywalker, s'avère être un bus
mashable.com · 2018
Traduit par IA

La Chine n'a pas hésité à utiliser la technologie de reconnaissance faciale pour attraper les piétons et les humilier publiquement.

La technologie vise à dissuader les mauvais comportements en reconnaissant le visage du délinquant, en le vé…

Un système de reconnaissance faciale en Chine confond le visage d'une célébrité sur un panneau d'affichage en mouvement avec un jaywalker - News 24
thestar.com.my · 2018
Traduit par IA

Alors que la Chine a devancé le reste du monde en intégrant la technologie de reconnaissance faciale dans la vie quotidienne des gens, il existe des systèmes dans le pays qui doivent être peaufinés.

L'expérience récente de Dong Mingzhu, pré…

Le système chinois de reconnaissance faciale confond une publicité de bus avec un jaywalker
engadget.com · 2018
Traduit par IA

La police a depuis supprimé l'infraction et affirme avoir amélioré la technologie de reconnaissance faciale pour "réduire le taux de fausses reconnaissances", bien que l'on ne sache pas exactement ce qu'elle aurait pu faire pour résoudre ce…

La reconnaissance faciale surprend la reine chinoise de l'escroquerie aérienne Dong Mingzhu, mais s'avère être...
article.wn.com · 2018
Traduit par IA

Alors que la Chine a devancé le reste du monde en intégrant la technologie de reconnaissance faciale dans la vie quotidienne des gens, il existe des systèmes dans le pays qui doivent être peaufinés. L'expérience récente de Dong Mingzhu, pré…

Un système de reconnaissance faciale accuse une femme dans une publicité de bus de jaywalking
theinquirer.net · 2018
Traduit par IA

SI VOUS COMPTEZ sur la reconnaissance faciale pour certains aspects de votre système de justice pénale, vous feriez mieux d'espérer qu'il est fiable. Il peut donc être rassurant pour les personnes inquiètes que la Chine utilise la technolog…

La reconnaissance faciale piège la reine chinoise de l'air conditionné Dong Mingzhu pour jaywalking, mais ce n'est pas ce qu'il semble
scmp.com · 2018
Traduit par IA

Le visage de Dong Mingzhu, présidente de Gree Electric Appliances, société cotée à Shenzhen, est éclaboussé sur un immense écran érigé le long d'une rue de Ningbo, une ville de la province côtière orientale du Zhejiang, pour afficher les im…

Le système de reconnaissance faciale confond une publicité de bus avec un jaywalker
cnet.com · 2018
Traduit par IA

NurPhoto

La Chine dépend de plus en plus des systèmes de reconnaissance faciale pour nommer et blâmer les citoyens qui se promènent, mais elle aurait rencontré un problème cette semaine.

Une caméra à une intersection de la ville orientale d…

Publicité sur les erreurs de reconnaissance faciale chinoise pour Jaywalker
technovelgy.com · 2018
Traduit par IA

Publicité sur les erreurs de reconnaissance faciale chinoise pour Jaywalker

La Chine utilise la reconnaissance de la marche ainsi que la reconnaissance faciale pour automatiser la billetterie des jaywalkers, tout comme les caméras sont util…

Une femme d'affaires chinoise accusée de jaywalking après qu'une caméra AI ait repéré son visage sur une publicité
telegraph.co.uk · 2018
Traduit par IA

La police chinoise a admis avoir fait honte à tort à une célèbre femme d'affaires après qu'un système de reconnaissance faciale conçu pour attraper les passants ait confondu une publicité sur le côté d'un bus avec son vrai visage.

Dong Ming…

Une femme d'affaires en Chine surprise en "jaywalking" parce que son visage était dans un bus
techinasia.com · 2018
Traduit par IA

Les villes chinoises ont largement déployé des systèmes de reconnaissance faciale dans leurs rues pour attraper et sanctionner les promeneurs, mais parfois ils ne fonctionnent pas comme prévu.

À une intersection de la ville de Ningbo, dans …

Un système de reconnaissance faciale en Chine confond une publicité de bus avec un jaywalker
biometricupdate.com · 2018
Traduit par IA

Un système déployé par le gouvernement chinois pour identifier les promeneurs, utilisant apparemment la reconnaissance faciale en temps réel, a identifié par erreur une célébrité comme une délinquante après avoir scanné son visage à partir …

L'IA casse le titan des affaires
theregister.co.uk · 2018
Traduit par IA

Reconnaissance faciale de l'IA - tout est aussi terrifiant que le suggère cette image de stock hokey (dont le sujet n'est * pas * Dong Mingzhu).

#F_AI_L Un système d'intelligence artificielle en Chine a publiquement fait honte à l'un des di…

Une caméra de circulation en Chine confond une publicité de bus avec un vrai visage humain
npr.org · 2018
Traduit par IA

Une caméra de circulation en Chine confond une publicité de bus avec un vrai visage humain

Si vous êtes pris en flagrant délit de jaywalking en Chine, votre photo pourrait être exposée en guise de punition. Tout comme une femme dont le visa…

Une caméra de circulation en Chine confond une publicité de bus avec un vrai visage humain
capradio.org · 2018
Traduit par IA

Une caméra de circulation en Chine confond une publicité de bus avec un vrai visage humain

Radio Nationale Publique

mardi 27 novembre 2018

Écouter / Mettre à jour requis Pour lire l'audio, mettre à jour le navigateur ou Pour lire l'audio, m…

La reconnaissance faciale signale à une femme dans un bus une publicité pour « Jaywalking » en Chine
gizmodo.com.au · 2018
Traduit par IA

Photo : Getty

Le système de surveillance chinois devient de plus en plus omniprésent, avec environ 200 millions de caméras et plus encore. Bien que cet état d'existence à lui seul soit troublant, il est encore plus troublant que les machine…

Une IA chinoise prise au dépourvu dans une publicité pour un bus
bbc.com · 2018
Traduit par IA

Des systèmes d'IA trop zélés en Chine ont accusé une femme photographiée sur le côté d'un bus de jaywalking.

Le visage de Dong Mingzhu, qui dirige le plus grand fabricant de climatiseurs de Chine, a été brièvement montré sur un panneau d'af…

La reconnaissance faciale chinoise signale une femme dans un bus pour avoir fait du jaywalking
iottechnews.com · 2018
Traduit par IA

Une femme a été signalée pour jaywalking par une technologie de reconnaissance faciale dans une ville chinoise, mais elle n'était même pas là.

La femme en question était Dong Mingzhu, présidente du plus grand fabricant chinois de climatiseu…

La caméra AI chinoise confond la photo du PDG sur le bus en mouvement avec une personne réelle et la fait honte pour Jaywalking
indiatimes.com · 2018
Traduit par IA

Ce n'est pas un gros problème de jaywalk en Inde. Huit fois sur dix, personne ne le remarquera. Mais si vous vous promenez en Chine, vous devrez peut-être faire face à quelque chose d'extrêmement embarrassant. Alors que la Chine a devancé l…

Jaywalking AI fait honte à tort à une femme dans une publicité
insights.globalspec.com · 2018
Traduit par IA

L'intelligence artificielle conçue pour faire honte aux jaywalkers de Ningbo, en Chine, s'est retournée contre elle ces derniers jours en identifiant à tort une femme dans une publicité sur le côté d'un bus de la ville comme coupable de jay…

2018 en revue : 10 échecs de l'IA
medium.com · 2018
Traduit par IA

En décembre dernier, Synced a compilé son premier récapitulatif des "échecs de l'intelligence artificielle" des gaffes de l'IA de l'année précédente. L'IA a réalisé des progrès remarquables et de nombreux scientifiques rêvent de créer l'alg…

Dong Mingzhu réélu à la tête de Gree
chinadaily.com.cn · 2019
Traduit par IA

Dong Mingzhu, président de Gree electronic appliances, lors de la conférence APEC 2018 le 7 juillet 2018. [Photo/VCG]

La reine chinoise de l'électroménager Dong Mingzhu a été confirmée pour entrer dans sa septième année en tant que présiden…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 rapports
Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 rapports
Security Robot Rolls Over Child in Mall

Crime-fighting robot hits, rolls over child at Silicon Valley mall

Jul 2016 · 27 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 rapports
Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 rapports
Security Robot Rolls Over Child in Mall

Crime-fighting robot hits, rolls over child at Silicon Valley mall

Jul 2016 · 27 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c