Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Entités

Minority Groups

Affecté par des incidents

Incident 1927 Rapports
Sexist and Racist Google Adsense Advertisements

2013-01-23

Advertisements chosen by Google Adsense are reported as producing sexist and racist results.

Plus

Incident 6023 Rapports
FaceApp Racial Filters

2017-04-25

FaceApp is criticized for offering racist filters.

Plus

Incident 5318 Rapports
Biased Google Image Results

2016-03-31

On June 6, 2016, Google image searches of "three black teenagers" resulted in mostly mugshot images whereas Google image searchers of "three white teenagers" consisted of mostly stock images, suggesting a racial bias in Google's algorithm.

Plus

Incident 139 Rapports
High-Toxicity Assessed on Text Involving Women and Minority Groups

2017-02-27

Google's Perspective API, which assigns a toxicity score to online text, seems to award higher toxicity scores to content involving non-white, male, Christian, heterosexual phrases.

Plus

Entités liées
Autres entités liées au même incident. Par exemple, si le développeur d'un incident est cette entité mais que le responsable de la mise en œuvre est une autre entité, ils sont marqués comme entités liées.
 

Entity

Microsoft Research

Incidents impliqués en tant que développeur et déployeur
  • Incident 12
    1 Report

    Common Biases of Vector Embeddings

Plus
Entity

Boston University

Incidents impliqués en tant que développeur et déployeur
  • Incident 12
    1 Report

    Common Biases of Vector Embeddings

Plus
Entity

Google

Incidents impliqués en tant que développeur et déployeur
  • Incident 19
    27 Report

    Sexist and Racist Google Adsense Advertisements

  • Incident 53
    18 Report

    Biased Google Image Results

Incidents involved as Developer
  • Incident 12
    1 Report

    Common Biases of Vector Embeddings

Plus
Entity

Women

Affecté par des incidents
  • Incident 19
    27 Report

    Sexist and Racist Google Adsense Advertisements

  • Incident 13
    9 Report

    High-Toxicity Assessed on Text Involving Women and Minority Groups

Plus
Entity

St George's Hospital Medical School

Incidents involved as Deployer
  • Incident 43
    4 Report

    Racist AI behaviour is not a new problem

Plus
Entity

Dr. Geoffrey Franglen

Incidents involved as Developer
  • Incident 43
    4 Report

    Racist AI behaviour is not a new problem

Plus
Entity

FaceApp

Incidents impliqués en tant que développeur et déployeur
  • Incident 60
    23 Report

    FaceApp Racial Filters

Plus
Entity

Allen Institute for AI

Incidents impliqués en tant que développeur et déployeur
  • Incident 146
    3 Report

    Research Prototype AI, Delphi, Reportedly Gave Racially Biased Answers on Ethics

Plus
Entity

OpenAI

Incidents impliqués en tant que développeur et déployeur
  • Incident 179
    3 Report

    DALL-E 2 Reported for Gender and Racially Biased Outputs

Plus
Entity

underrepresented groups

Affecté par des incidents
  • Incident 262
    4 Report

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

  • Incident 179
    3 Report

    DALL-E 2 Reported for Gender and Racially Biased Outputs

Plus
Entity

Boris Dayma

Incidents impliqués en tant que développeur et déployeur
  • Incident 262
    4 Report

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Plus
Entity

Suraj Patil

Incidents involved as Developer
  • Incident 262
    4 Report

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Plus
Entity

Pedro Cuenca

Incidents involved as Developer
  • Incident 262
    4 Report

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Plus
Entity

Khalid Saifullah

Incidents involved as Developer
  • Incident 262
    4 Report

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Plus
Entity

Tanishq Abraham

Incidents involved as Developer
  • Incident 262
    4 Report

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Plus
Entity

Phúc Lê Khắc

Incidents involved as Developer
  • Incident 262
    4 Report

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Plus
Entity

Luke Melas

Incidents involved as Developer
  • Incident 262
    4 Report

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Plus
Entity

Ritobrata Ghosh

Incidents involved as Developer
  • Incident 262
    4 Report

    DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Plus
Entity

Meta AI

Incidents impliqués en tant que développeur et déployeur
  • Incident 399
    3 Report

    Meta AI's Scientific Paper Generator Reportedly Produced Inaccurate and Harmful Content

Affecté par des incidents
  • Incident 399
    3 Report

    Meta AI's Scientific Paper Generator Reportedly Produced Inaccurate and Harmful Content

Plus
Entity

Meta

Incidents impliqués en tant que développeur et déployeur
  • Incident 399
    3 Report

    Meta AI's Scientific Paper Generator Reportedly Produced Inaccurate and Harmful Content

Affecté par des incidents
  • Incident 399
    3 Report

    Meta AI's Scientific Paper Generator Reportedly Produced Inaccurate and Harmful Content

Plus
Entity

Facebook

Incidents impliqués en tant que développeur et déployeur
  • Incident 399
    3 Report

    Meta AI's Scientific Paper Generator Reportedly Produced Inaccurate and Harmful Content

Affecté par des incidents
  • Incident 399
    3 Report

    Meta AI's Scientific Paper Generator Reportedly Produced Inaccurate and Harmful Content

Plus

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df