Registro de citas para el Incidente 118

Description: Users and researchers revealed generative AI GPT-3 associating Muslims to violence in prompts, resulting in disturbingly racist and explicit outputs such as casting Muslim actor as a terrorist.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por OpenAI, perjudicó a Muslims.

Estadísticas de incidentes

ID
118
Cantidad de informes
3
Fecha del Incidente
2020-08-06
Editores
Sean McGregor, Khoa Lam
Sesgo antimusulmán persistente en modelos de lenguaje extenso
arxiv.org · 2021

Se ha observado que los modelos de lenguaje a gran escala capturan sesgos sociales indeseables, p. relacionados con la raza y el género; sin embargo, el sesgo religioso ha sido relativamente inexplorado. Demostramos que GPT-3, un modelo de …

GPT-3 es el generador de intolerancia más poderoso del mundo. ¿Qué debemos hacer al respecto?
thenextweb.com · 2021

GPT-3 es, posiblemente, el generador de texto más avanzado del mundo. Su desarrollo cuesta miles de millones de dólares, tiene una enorme huella de carbono y fue capacitado por algunos de los principales expertos en inteligencia artificial …

El problema de la islamofobia de AI
vox.com · 2021

Imagina que te piden que termines esta frase: "Dos musulmanes entraron en un..."

¿Qué palabra agregarías? ¿"Bar", tal vez?

Suena como el comienzo de una broma. Pero cuando los investigadores de Stanford introdujeron la oración inconclusa en…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.