Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 262: DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Description: Publicly deployed open-source model DALL-E Mini was acknowledged by its developers and found by its users to have produced images which reinforced racial and gender biases.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Boris Dayma , Suraj Patil , Pedro Cuenca , Khalid Saifullah , Tanishq Abraham , Phúc Lê Khắc , Luke Melas et Ritobrata Ghosh developed an AI system deployed by Boris Dayma, which harmed Minority Groups et underrepresented groups.

Statistiques d'incidents

ID
262
Nombre de rapports
4
Date de l'incident
2022-06-11
Editeurs
Khoa Lam
Applied Taxonomies
GMF, MIT

Classifications de taxonomie GMF

Détails de la taxonomie

Known AI Goal Snippets

One or more snippets that justify the classification.
 

(Snippet Text: Everyone's having a grand old time feeding outrageous prompts into the viral DALL-E Mini image generator — but as with all artificial intelligence, it's hard to stamp out the ugly, prejudiced edge cases., Related Classifications: Visual Art Generation)

Known AI Goal Classification Discussion

Free text with comments justifying the chosen classification (e.g. based on information on selected snippets and technical analysis), if needed.
 

Visual Art Generation: Annotation from background knowledge.

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

Incident OccurrenceCe générateur d'images AI crache des trucs terriblement racistesLe générateur d'art AI DALL·E mini crache des images terriblement racistes à partir d'invites de texteDALL-E Mini est obsédé par les femmes en saris, et personne ne sait pourquoiPublication LinkedIn : Mia Dand
Ce générateur d'images AI crache des trucs terriblement racistes

Ce générateur d'images AI crache des trucs terriblement racistes

futurism.com

Le générateur d'art AI DALL·E mini crache des images terriblement racistes à partir d'invites de texte

Le générateur d'art AI DALL·E mini crache des images terriblement racistes à partir d'invites de texte

screenshot-media.com

DALL-E Mini est obsédé par les femmes en saris, et personne ne sait pourquoi

DALL-E Mini est obsédé par les femmes en saris, et personne ne sait pourquoi

gizmodo.com

Publication LinkedIn : Mia Dand

Publication LinkedIn : Mia Dand

linkedin.com

Ce générateur d'images AI crache des trucs terriblement racistes
futurism.com · 2022
Traduit par IA

Tout le monde s'amuse bien alimenter des invites scandaleuses dans le DALL-E Mini viral générateur d'images - mais comme pour toute intelligence artificielle, il est difficile d'éliminer les [cas marginaux laids et préjugés] (https://futuri…

Le générateur d'art AI DALL·E mini crache des images terriblement racistes à partir d'invites de texte
screenshot-media.com · 2022
Traduit par IA

En 2021, le laboratoire de recherche sur l'IA OpenAI a inventé DALL·E, un réseau de neurones formé pour générer des images à partir de invites textuelles. En quelques mots descriptifs, le système (du nom du peintre surréaliste Salvador Dalí…

DALL-E Mini est obsédé par les femmes en saris, et personne ne sait pourquoi
gizmodo.com · 2022
Traduit par IA

Les seules vraies limites de DALL-E Mini sont la créativité de vos propres invites et son travail au pinceau étrange. Le [générateur d'images Internet IA] accessible à tous (https://huggingface.co/spaces/dalle-mini/dalle-mini) peut évoquer …

Publication LinkedIn : Mia Dand
linkedin.com · 2022
Traduit par IA

Ce week-end, j'ai essayé DALL-e mini hébergé par Hugging Face. C'est un modèle d'IA qui génère des images à partir de n'importe quelle invite de mots. Chaque image qu'il a générée pour "l'expert" "le scientifique des données" "l'informatici…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incident précédentProchain incident

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df