Gráficos CSETv1
La taxonomía de daños de IA de CSET para AIID es la segunda edición de la taxonomía de incidentes de CSET. Caracteriza los daños, las entidades y las tecnologías involucradas en los incidentes de IA y las circunstancias de su ocurrencia. Los cuadros a continuación muestran campos seleccionados de la taxonomía de daños AI CSET para AIID. Los detalles sobre cada campo se pueden encontrar aquí. Sin embargo, se proporcionan breves descripciones del campo encima de cada gráfico.
La taxonomía proporciona la definición de CSET para el daño de la IA.
El daño de la IA tiene cuatro elementos que, una vez definidos adecuadamente, permiten la identificación del daño de la IA. Estos componentes clave sirven para distinguir el daño del no daño y el daño de la IA del no daño de la IA. Para que sea un daño de IA, debe haber:
- 1) una entidad que experimentó
- 2) un evento de daño o problema de daño que
- 3) puede estar directamente vinculado a una consecuencia del comportamiento de
- 4) un sistema de IA.
Los cuatro elementos deben estar presentes para que haya daño de IA.
No todos los incidentes en AIID cumplen con esta definición de daño de IA. Los gráficos de barras a continuación muestran los resultados anotados tanto para todos los incidentes de AIID como para los incidentes que cumplen con la definición de daño de IA de CSET.
CSET ha desarrollado definiciones específicas para las frases subrayadas que pueden diferir de las definiciones de otras organizaciones. Como resultado, otras organizaciones pueden hacer diferentes evaluaciones sobre si un incidente de IA en particular es (o no) un daño de IA. Los detalles sobre las definiciones de CSET para el daño de la IA se pueden encontrar aquí.
Cada incidente es clasificado de forma independiente por dos anotadores CSET. Las anotaciones se revisan por pares y finalmente se seleccionan al azar para el control de calidad antes de la publicación. A pesar de este riguroso proceso, ocurren errores y se invita a los lectores a de cualquier error que puedan descubrir mientras navegan.
¿El incidente involucra un sistema que cumple con la definición de CSET para un sistema de IA?
Sistema de IA
(por Número de Incidentes)Si hubo un trato diferencial, ¿sobre qué base?
Tratamiento diferencial basado en una característica protegida: Este daño intangible de interés especial cubre problemas de sesgo y equidad relacionados con la IA. Sin embargo, el sesgo debe estar asociado con un grupo que tenga una característica protegida.Base para el tratamiento diferencial
(por Número de Incidentes)Todos los Incidentes de AIID
| Categoría | Conteo |
|---|---|
| raza | 9 |
| sexo | 8 |
| nación de origen, ciudadanía, estatus de inmigrante | 4 |
| orientación sexual o identidad de género | 2 |
| edad | 1 |
| discapacidad | 1 |
| medios financieros | 1 |
| geografía | 1 |
| ideología | 1 |
| religión | 1 |
| ninguno |
Definición de Daño de IA de CSET
| Categoría | Conteo |
|---|---|
| raza | 6 |
| sexo | 5 |
| nación de origen, ciudadanía, estatus de inmigrante | 3 |
| orientación sexual o identidad de género | 1 |
| discapacidad | 1 |
| ideología | 1 |
| religión | 1 |
| edad | |
| medios financieros | |
| geografía | |
| ninguno |
¿En qué sector ocurrió el incidente?
Sector de Despliegue
(por Número de Incidentes)Todos los Incidentes de AIID
| Categoría | Conteo |
|---|---|
| información y comunicación | 18 |
| transporte y almacenamiento | 11 |
| Artes, entretenimiento y recreación | 6 |
| aplicación de la ley | 5 |
| comercio al por mayor y al por menor | 5 |
| actividades administrativas y de servicios de apoyo | 4 |
| actividades profesionales, científicas y técnicas | 4 |
| administración pública | 4 |
| actividades de salud humana y trabajo social | 3 |
| manufactura | 3 |
| Educación | 2 |
| actividades de alojamiento y restauración | 1 |
| otro | 1 |
Definición de Daño de IA de CSET
| Categoría | Conteo |
|---|---|
| información y comunicación | 11 |
| transporte y almacenamiento | 7 |
| aplicación de la ley | 3 |
| administración pública | 3 |
| Artes, entretenimiento y recreación | 2 |
| actividades administrativas y de servicios de apoyo | 2 |
| comercio al por mayor y al por menor | 1 |
| actividades profesionales, científicas y técnicas | 1 |
| actividades de alojamiento y restauración | 1 |
| actividades de salud humana y trabajo social | |
| manufactura | |
| Educación | |
| otro |
¿Cuán autónomamente operó la tecnología en el momento del incidente?
- Nivel 1: el sistema opera de forma independiente sin supervisión humana simultánea.
- Nivel 2: el sistema opera de forma independiente pero con supervisión humana, donde el sistema toma una decisión o realiza una acción, pero un humano observa activamente el comportamiento y puede anular el sistema en tiempo real.
- Nivel 3: el sistema proporciona entradas y decisiones o acciones sugeridas a un humano que elige activamente proceder con la dirección de la IA.
Nivel de Autonomía
(por Número de Incidentes)- Autonomía1 (totalmente autónoma): ¿Opera el sistema de forma independiente, sin supervisión, interacción o intervención humana simultánea?
- Autonomía2 (humano en el bucle): ¿Opera el sistema de forma independiente pero con supervisión humana, donde el sistema toma decisiones o acciones pero un humano observa activamente el comportamiento y puede anular el sistema en tiempo real?
- Autonomía3 (humano en el bucle): ¿Proporciona el sistema entradas y decisiones sugeridas a un humano que