Registro de citas para el Incidente 624

Respondido
Description: The LAION-5B dataset (a commonly used dataset with more than 5 billion image-description pairs) was found by researchers to contain child sexual abuse material (CSAM), which increases the likelihood that downstream models will produce CSAM imagery. The discovery taints models built with the LAION dataset requiring many organizations to retrain those models. Additionally, LAION must now scrub the dataset of the imagery.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado por LAION e implementado por Various people y Various organizations, perjudicó a Various people , Various organizations , LAION , General public y Children.

Estadísticas de incidentes

ID
624
Cantidad de informes
16
Fecha del Incidente
2023-12-20
Editores
Daniel Atherton
Revisión de seguridad para LAION 5B
laion.ai · 2023
Respuesta post-incidente de LAION.ai

En la prensa han aparecido noticias sobre los resultados de un proyecto de investigación de la Universidad de Stanford, según el cual el equipo de entrenamiento LAION 5B contiene contenidos potencialmente ilegales en forma de CSAM. Nos gust…

Una investigación encuentra modelos de generación de imágenes de IA entrenados en abuso infantil
cyber.fsi.stanford.edu · 2023

Una investigación del Stanford Internet Observatory (SIO) identificó cientos de imágenes conocidas de material de abuso sexual infantil (CSAM) en un conjunto de datos abiertos utilizado para entrenar modelos populares de generación de texto…

Se descubrió que el conjunto de datos de entrenamiento de imágenes de IA incluye imágenes de abuso sexual infantil
theverge.com · 2023

Un conjunto de datos de entrenamiento popular para la generación de imágenes de IA contenía enlaces a imágenes de abuso infantil, [encontrado por el Observatorio de Internet de Stanford](https://cyber.fsi.stanford.edu/news/investigation-fin…

Un estudio descubre la presencia de CSAM en un popular conjunto de datos de entrenamiento de IA
theregister.com · 2023

Se ha descubierto que un enorme conjunto de datos públicos que sirvió como datos de entrenamiento para varios generadores de imágenes de IA contiene miles de casos de material de abuso sexual infantil (CSAM).

En un estudio publicado hoy, el…

El conjunto de datos más grande que impulsa imágenes de IA se elimina después del descubrimiento de material de abuso sexual infantil
404media.co · 2023

*Este artículo se publica con el apoyo de The Capitol Forum. * La organización que lo creó eliminó el conjunto de datos de aprendizaje automático LAION-5B utilizado por Stable Diffusion y otros productos importantes de IA después de que un …

Un conjunto de datos de imágenes de IA gratuito, eliminado por imágenes de abuso sexual infantil, ha sido criticado antes
venturebeat.com · 2023

Un enorme conjunto de datos de IA de código abierto, LAION-5B, que se ha utilizado para entrenar generadores de texto a imágenes de IA populares como Stable Diffusion 1.5 e Imagen de Google, contiene al menos 1008 casos de material de abuso…

Se encontró material de abuso sexual infantil en un importante conjunto de datos de inteligencia artificial. Los investigadores no se sorprenden.
vice.com · 2023

Se han descubierto más de 1.000 imágenes de niños abusados sexualmente dentro del conjunto de datos más grande utilizado para entrenar IA generadora de imágenes, sorprendiendo a todos, excepto a las personas que han advertido sobre este tip…

Stable Diffusion 1.5 recibió capacitación sobre material ilegal de abuso sexual infantil, según un estudio de Stanford
forbes.com · 2023

Stable Diffusion, una de las herramientas de IA generativa de conversión de texto a imagen más populares del mercado de [la startup Stability AI de mil millones de dólares](https://www.forbes.com/sites/kenrickcai/2023/06/04/stable -diffusio…

Los investigadores encontraron material de abuso infantil en el conjunto de datos de generación de imágenes de IA más grande
engadget.com · 2023

Investigadores del Observatorio de Internet de Stanford dicen que un conjunto de datos utilizado para entrenar herramientas de generación de imágenes de IA contiene al menos 1.008 casos validados de material de abuso sexual infantil. Los in…

Los datos de entrenamiento de IA contienen imágenes de abuso sexual infantil, el descubrimiento apunta a LAION-5B
techtimes.com · 2023

Ha habido problemas importantes con los datos de entrenamiento de AI, con varias quejas ya presentadas por quienes afirmaron que su trabajo fue robado, pero el descubrimiento más reciente vio imágenes de abuso sexual infantil en su conjunto…

Se eliminó un gran conjunto de datos de entrenamiento de IA después de que un estudio encontrara material de abuso infantil
cointelegraph.com · 2023

Su creador eliminó un conjunto de datos de inteligencia artificial ampliamente utilizado para entrenar Stable Diffusion, Imagen y otros modelos de generación de imágenes de IA después de que un estudio encontró que contenía miles de instanc…

Un influyente conjunto de datos de IA contiene miles de imágenes sospechosas de abuso sexual infantil
gizmodo.com · 2023

Un influyente conjunto de datos de aprendizaje automático, como el que se ha utilizado para entrenar numerosas aplicaciones populares de generación de imágenes, incluye miles de imágenes sospechosas de abuso sexual infantil, revela un nuevo…

Material de abuso encontrado en un conjunto de datos de acceso abierto
cybernews.com · 2023

Se ha localizado material de abuso sexual infantil (CSAM) en LAION, un importante conjunto de datos utilizado para entrenar la IA.

El Observatorio de Internet de Stanford reveló miles de imágenes de abuso sexual infantil en el conjunto de d…

Error importante encontrado en el conjunto de datos de entrenamiento más grande de Stable Diffusion
analyticsvidhya.com · 2023

La integridad de un importante conjunto de datos de entrenamiento de imágenes de IA, LAION-5B, utilizado por modelos de IA influyentes como Stable Diffusion, se ha visto comprometida después del descubrimiento de miles de enlaces a material…

LAION y los desafíos de prevenir el CSAM generado por IA
techpolicy.press · 2024

La IA generativa se ha democratizado. Los kits de herramientas para descargar, configurar, usar y ajustar una variedad de modelos se han convertido en marcos de un clic para que los use cualquier persona con una computadora portátil. Si bie…

LAION-5B, Difusión Estable 1.5 y el pecado original de la IA generativa
techpolicy.press · 2024

En Los que se alejan de Omelas, la escritora de ficción Ursula K. Le Guin describe una ciudad fantástica donde el avance tecnológico ha asegurado una vida de abundancia para todos los que viven allí. Escondido debajo de la ciudad, donde nad…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents