Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 617: Male student allegedly used AI to generate nude photos of female classmates at a high school in Issaquah, Washington

Respondido
Descripción: At a high school in Issaquah, Washington, a male student is reported to have used deepfake technology to alter pictures of several female classmates and then shared them.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: unknown developed an AI system deployed by Unnamed male student, which harmed Anonymous female high school students.

Estadísticas de incidentes

ID
617
Cantidad de informes
2
Fecha del Incidente
2023-11-09
Editores
Sean McGregor, Daniel Atherton
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

4.3. Fraud, scams, and targeted manipulation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Malicious Actors & Misuse

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

+1
Sin cargos, mientras fotografías de estudiantes desnudas generadas por IA circulan por la escuela de Issaquah
Spurred by Teen Girls, States Move to Ban Deepfake Nudes - Respuesta
Sin cargos, mientras fotografías de estudiantes desnudas generadas por IA circulan por la escuela de Issaquah

Sin cargos, mientras fotografías de estudiantes desnudas generadas por IA circulan por la escuela de Issaquah

kiro7.com

Spurred by Teen Girls, States Move to Ban Deepfake Nudes

Spurred by Teen Girls, States Move to Ban Deepfake Nudes

nytimes.com

Sin cargos, mientras fotografías de estudiantes desnudas generadas por IA circulan por la escuela de Issaquah
kiro7.com · 2023
Traducido por IA

ISSAQUAH, Washington — KIRO 7 se enteró por un padre de un estudiante de la escuela secundaria de Issaquah que recientemente han estado circulando por la escuela imágenes pornográficas generadas por IA. También supimos que un adolescente to…

Spurred by Teen Girls, States Move to Ban Deepfake Nudes
nytimes.com · 2024
Respuesta post-incidente de Natasha Singer

Caroline Mullet, a ninth grader at Issaquah High School near Seattle, went to her first homecoming dance last fall, a James Bond-themed bash with blackjack tables attended by hundreds of girls dressed up in party frocks.

A few weeks later, …

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Selected by our editors

Fifty Bacchus Marsh Grammar girls targeted with AI fake nudes

Jun 2024 · 5 informes
Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Ever AI Reportedly Deceived Customers about FRT Use in App

Millions of people uploaded photos to the Ever app. Then the company used them to develop facial recognition tools.

Apr 2019 · 7 informes
Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 informes
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Criticized for ‘Inappropriate Content’

May 2015 · 14 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Selected by our editors

Fifty Bacchus Marsh Grammar girls targeted with AI fake nudes

Jun 2024 · 5 informes
Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Ever AI Reportedly Deceived Customers about FRT Use in App

Millions of people uploaded photos to the Ever app. Then the company used them to develop facial recognition tools.

Apr 2019 · 7 informes
Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 informes
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Criticized for ‘Inappropriate Content’

May 2015 · 14 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df