Registro de citas para el Incidente 179

Description: Developers of OpenAI's DALL-E 2 cited risks of the model, varying from misuse as disinformation and explicit content generation, to gender and racial bias.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por OpenAI, perjudicó a underrepresented groups y Minority Groups.

Estadísticas de incidentes

ID
179
Cantidad de informes
3
Fecha del Incidente
2022-04-01
Editores
Sean McGregor, Khoa Lam

Clasificaciones de la Taxonomía GMF

Detalles de la Taxonomía

Known AI Goal

Visual Art Generation

Known AI Technology

Transformer, Distributional Learning

Known AI Technical Failure

Distributional Bias, Unsafe Exposure or Access, Misinformation Generation Hazard, Inappropriate Training Content

Potential AI Technical Failure

Unauthorized Data, Lack of Transparency

Vista previa de DALL·E 2 - Riesgos y limitaciones
github.com · 2022
Resumen A continuación, resumimos los hallazgos iniciales sobre los riesgos potenciales asociados con DALL·E 2 y las mitigaciones destinadas a abordar esos riesgos como parte de la versión preliminar en curso de esta tecnología. Estamos com…
Una nueva IA dibuja imágenes encantadoras y no tan encantadoras
vox.com · 2022

Es posible que hayas visto algunas imágenes extrañas y caprichosas flotando en Internet recientemente. Hay un perro Shiba Inu con boina y cuello de tortuga negro. Y una nutria marina al estilo de “La joven de la perla” del pintor holandés V…

La herramienta de arte AI DALL-E 2 agrega 'negro' o 'femenino' a algunas indicaciones de imagen
newscientist.com · 2022

Los investigadores que experimentaron con la herramienta de texto a imagen de OpenAI, DALL-E 2, notaron que parece estar agregando de forma encubierta palabras como "negro" y "femenino" a las indicaciones de imágenes, aparentemente en un es…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.