Incident 179: DALL-E 2 a signalé des résultats biaisés en matière de genre et de race
Entités
Voir toutes les entitésClassifications de taxonomie GMF
Détails de la taxonomieKnown AI Goal Snippets
(Snippet Text: Without sufficient guardrails, models like DALL·E 2 could be used to generate a wide range of deceptive and otherwise harmful content, and could affect how people perceive the authenticity of content more generally., Related Classifications: Visual Art Generation)
Risk Subdomain
1.1. Unfair discrimination and misrepresentation
Risk Domain
- Discrimination and Toxicity
Entity
AI
Timing
Post-deployment
Intent
Intentional
Rapports d'incidents
Chronologie du rapport
Résumé Ci-dessous, nous résumons les premières conclusions sur les risques potentiels associés à DALL·E 2, et les mesures d'atténuation visant à traiter ces risques dans le cadre de l'aperçu en cours de cette technologie. Nous partageons ce…
Vous avez peut-être vu récemment des images étranges et fantaisistes sur Internet. Il y a un chien Shiba Inu portant un béret et un col roulé noir. Et une loutre de mer dans le style de "La jeune fille à la perle" du peintre néerlandais Ver…
Des chercheurs expérimentant l'outil de conversion de texte en image d'OpenAI, DALL-E 2, ont remarqué qu'il semble ajouter secrètement des mots tels que "noir" et "femme" aux invites d'image, apparemment dans le but de diversifier sa sortie…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents