Incidente 179: DALL-E 2 reportado para resultados con sesgo racial y de género
Entidades
Ver todas las entidadesClasificaciones de la Taxonomía GMF
Detalles de la TaxonomíaKnown AI Goal Snippets
(Snippet Text: Without sufficient guardrails, models like DALL·E 2 could be used to generate a wide range of deceptive and otherwise harmful content, and could affect how people perceive the authenticity of content more generally., Related Classifications: Visual Art Generation)
Risk Subdomain
1.1. Unfair discrimination and misrepresentation
Risk Domain
- Discrimination and Toxicity
Entity
AI
Timing
Post-deployment
Intent
Intentional
Informes del Incidente
Cronología de Informes
Resumen A continuación, resumimos los hallazgos iniciales sobre los riesgos potenciales asociados con DALL·E 2 y las mitigaciones destinadas a abordar esos riesgos como parte de la versión preliminar en curso de esta tecnología. Estamos com…
Es posible que hayas visto algunas imágenes extrañas y caprichosas flotando en Internet recientemente. Hay un perro Shiba Inu con boina y cuello de tortuga negro. Y una nutria marina al estilo de “La joven de la perla” del pintor holandés V…
Los investigadores que experimentaron con la herramienta de texto a imagen de OpenAI, DALL-E 2, notaron que parece estar agregando de forma encubierta palabras como "negro" y "femenino" a las indicaciones de imágenes, aparentemente en un es…
Variantes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents