Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 777: South Korea Experiences a Surge of Explicit Deepfake Pornography

Descripción: At the end of August 2024, South Korean authorities began investigating a significant surge in the creation and dissemination, often via Telegram, of explicit deepfake pornography created without consent from the stolen social media content of female classmates, teachers, and neighbors.
Editor Notes: In one report, seven suspects were arrested, six of whom were teenagers. Another report mentions a graduate of Seoul National University in his 40s. One of the Telegram channels dedicated to the deepfakes was reported to have 220,000 members. One report indicates that between January 1 and August 25, 781 deepfake victims sought assistance from the state agency handling digital sex crimes, with 288 of those victims, or approximately 37%, being minors. This incident ID is for cataloguing the reporting on this pronounced flurry of deepfake pornography incidents in South Korea at the end of summer 2024.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Unnamed deepfake technology developers developed an AI system deployed by Unnamed deepfake creators, which harmed South Korean women.

Estadísticas de incidentes

ID
777
Cantidad de informes
7
Fecha del Incidente
2024-08-28
Editores
Daniel Atherton
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

4.3. Fraud, scams, and targeted manipulation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Malicious Actors & Misuse

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

+1
Corea del Sur se enfrenta a una 'emergencia' de pornografía deepfake
+1
(Artículo de Yonhap) Las mujeres surcoreanas se apresuran a eliminar selfies en medio de delitos de pornografía deepfake
Detienen a adolescentes surcoreanos por publicar imágenes sexuales falsasCorea del Sur se enfrenta a una crisis de pornografía deepfakeEn Corea del Sur, la misoginia tiene una nueva arma: los vídeos de sexo deepfakeLe dieron un dólar a AI y millones de mujeres fueron arrastradas al infierno |
Corea del Sur se enfrenta a una 'emergencia' de pornografía deepfake

Corea del Sur se enfrenta a una 'emergencia' de pornografía deepfake

bbc.com

(Artículo de Yonhap) Las mujeres surcoreanas se apresuran a eliminar selfies en medio de delitos de pornografía deepfake

(Artículo de Yonhap) Las mujeres surcoreanas se apresuran a eliminar selfies en medio de delitos de pornografía deepfake

en.yna.co.kr

Dentro de la crisis de pornografía deepfake que afecta a las escuelas coreanas

Dentro de la crisis de pornografía deepfake que afecta a las escuelas coreanas

bbc.com

Detienen a adolescentes surcoreanos por publicar imágenes sexuales falsas

Detienen a adolescentes surcoreanos por publicar imágenes sexuales falsas

nytimes.com

Corea del Sur se enfrenta a una crisis de pornografía deepfake

Corea del Sur se enfrenta a una crisis de pornografía deepfake

bloomberg.com.

En Corea del Sur, la misoginia tiene una nueva arma: los vídeos de sexo deepfake

En Corea del Sur, la misoginia tiene una nueva arma: los vídeos de sexo deepfake

nytimes.com

Le dieron un dólar a AI y millones de mujeres fueron arrastradas al infierno |

Le dieron un dólar a AI y millones de mujeres fueron arrastradas al infierno |

baijiahao.baidu.com

Corea del Sur se enfrenta a una 'emergencia' de pornografía deepfake
bbc.com · 2024
Traducido por IA

El presidente de Corea del Sur ha instado a las autoridades a hacer más para "erradicar" la epidemia de delitos sexuales digitales del país, en medio de una avalancha de pornografía deepfake dirigida a mujeres jóvenes.

Autoridades, periodis…

(Artículo de Yonhap) Las mujeres surcoreanas se apresuran a eliminar selfies en medio de delitos de pornografía deepfake
en.yna.co.kr · 2024
Traducido por IA

SEÚL, 2 de septiembre (Yonhap) -- Las imágenes pornográficas falsas han hecho que muchas mujeres surcoreanas se apresuren a eliminar sus selfies de Facebook, Instagram y otras plataformas de redes sociales, ya que cada vez hay más preocupac…

Dentro de la crisis de pornografía deepfake que afecta a las escuelas coreanas
bbc.com · 2024
Traducido por IA

El sábado pasado, un mensaje de Telegram apareció en el teléfono de Heejin de un remitente anónimo: "Tus fotos e información personal se han filtrado. Hablemos".

Cuando la estudiante universitaria entró en la sala de chat para leer el mensa…

Detienen a adolescentes surcoreanos por publicar imágenes sexuales falsas
nytimes.com · 2024
Traducido por IA

Las autoridades de Corea del Sur están investigando una oleada de imágenes y vídeos sexualmente explícitos que se han difundido en Internet y han conmocionado al país, lo que ha llevado a la policía a detener a siete sospechosos varones, se…

Corea del Sur se enfrenta a una crisis de pornografía deepfake
bloomberg.com. · 2024
Traducido por IA

Corea del Sur se ha visto sacudida por una ola de imágenes deepfake sexualmente explícitas creadas y compartidas en línea, dirigidas indiscriminadamente a mujeres y niñas que usan sus [fotos] escolares (https://www.bbc.com/news/articles/cpd…

En Corea del Sur, la misoginia tiene una nueva arma: los vídeos de sexo deepfake
nytimes.com · 2024
Traducido por IA

En 2020, mientras las autoridades surcoreanas perseguían a una red de chantaje que obligaba a mujeres jóvenes a hacer videos sexualmente explícitos para espectadores que pagaban por ello, encontraron algo más flotando en los oscuros recovec…

Le dieron un dólar a AI y millones de mujeres fueron arrastradas al infierno |
baijiahao.baidu.com · 2024
Traducido por IA

Hace más de un año, Wu Hua estaba de viaje por Corea del Sur y publicó una foto con orientación coreana en las redes sociales durante el viaje. Menos de tres días después de regresar a China, una amiga le envió una captura de pantalla de un…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidente AnteriorSiguiente Incidente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df