Incidente 621: Microsoft AI Is Alleged to Have Generated Violent Imagery of Minorities and Public Figures

Descripción: Microsoft’s AI Image Creator, integrated with Bing and Windows Paint, produced disturbingly violent and graphic images featuring members of minority groups and public figures like Joe Biden and Pope Francis.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Estadísticas de incidentes

ID
621
Cantidad de informes
3
Fecha del Incidente
2023-11-10
Editores
Daniel Atherton
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

1.2. Exposure to toxic content

Risk Domain

  1. Discrimination and Toxicity

Entity

AI

Timing

Post-deployment

Intent

Unintentional

Los usuarios de 4chan están generando imágenes con imágenes nazis y otra "propaganda" a través de la herramienta de inteligencia artificial de Microsoft Bing
mediamatters.org · 2023
Traducido por IA

Advertencia de contenido: este artículo contiene numerosos ejemplos de retórica intolerante.

Los usuarios del foro de mensajes de extrema derecha 4chan han utilizado el generador de imágenes de inteligencia artificial de Bing para crear num…

Microsoft dice que su IA es segura. Entonces, ¿por qué sigue degollando a la gente?
washingtonpost.com · 2023
Traducido por IA

Las imágenes son espantosas: Joe Biden, Donald Trump, Hillary Clinton y el Papa Francisco con el cuello abierto. Hay sikhs, navajos y otras personas de grupos étnicos minoritarios con órganos internos saliendo de la piel desollada.

Las imág…

El dilema de la IA de Microsoft: ¿es segura pero crea imágenes inquietantes?
cryptopolitan.com · 2023
Traducido por IA

En una revelación escalofriante, la inteligencia artificial de Microsoft, promocionada como segura e integrada en el software cotidiano, está bajo escrutinio por generar imágenes espantosas y violentas. La preocupación se centra en Image Cr…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

· 6 informes
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Criticized for ‘Inappropriate Content’

· 14 informes
Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

· 29 informes
Incidente AnteriorSiguiente Incidente