Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 4566

Incidentes Asociados

Incidente 79927 Reportes
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates

Loading...
“Ya no quiero vivir con miedo”: niña del norte de Texas víctima de desnudos falsos presiona por una ley federal
wfaa.com · 2024

DALLAS --- Elliston Berry, que está cursando su segundo año en la escuela secundaria Aledo, se está recuperando de lo que le sucedió el año pasado.

En octubre de 2023, una estudiante tomó sus fotos de Instagram y las introdujo en una inteligencia artificial, creando imágenes falsas de la niña de 14 años desnuda. Dijo que otros nueve compañeros de clase también fueron víctimas.

"Me desperté con muchos, muchos mensajes de texto de mis amigos que me decían que había imágenes mías dando vueltas", dijo Elliston.

"Era tan realista. Es pornografía infantil", dijo Anna McAdams, la madre de Elliston. "Realmente no podíamos cuidarla. En ese momento, estábamos indefensos. [...] Cada vez salían más fotos durante ese primer día y hasta el segundo".

Anna dijo que la escuela, la oficina del sheriff y Snapchat no pudieron detener la difusión de las fotos.

Durante más de ocho meses, no pudieron lograr que la plataforma de redes sociales eliminara la imagen. En ese momento, no sabían hasta qué punto se había difundido.

"No fue hasta que fui a Washington hace un par de semanas que el senador [Ted] Cruz se dio cuenta de que esas fotos todavía estaban allí. Pasé ocho meses y medio, y él pudo ponerse en contacto con alguien en Snapchat y, de inmediato, en 24 horas, eliminaron las cuentas".

En cuanto al adolescente que hizo la pornografía deepfake, Anna dijo: "Tiene libertad condicional, un tirón de orejas y luego lo castigarán a los 18 años. Se eliminará. Pero estas fotos de nuestras chicas podrían estar ahí para siempre".

Es por eso que el dúo madre-hija está hablando sobre lo que le sucedió a Elliston.

"Yo era una estudiante de primer año y solo tenía catorce años", dijo Elliston. "Incluso hoy, todavía tengo miedo de que estas imágenes resurjan. Desde ese día, he vivido con miedo".

Elliston y Anna, junto con el senador Cruz, están presionando para lograr un cambio federal con la ley TAKE IT DOWN, que significa "Herramientas para abordar la explotación conocida mediante la inmovilización de deepfakes tecnológicos en sitios web y redes".

Se trata de una legislación bipartidista que protegería a las víctimas de imágenes íntimas no consensuales (NCII, por sus siglas en inglés) reales y deepfake. Si se convierte en ley, esto permitiría:

  • Penalizar la publicación de NCII o la amenaza de publicar NCII en el comercio interestatal
  • Exigir a los sitios web que eliminen NCII tras el aviso de la víctima dentro de las 48 horas, además de hacer esfuerzos razonables para eliminar las copias de las imágenes
  • Proteger los esfuerzos de buena fe para ayudar a las víctimas
  • Proteger la libertad de expresión

El senador Cruz espera que este proyecto de ley se firme antes de fin de año. Elliston y Anna seguirán compartiendo lo que sucedió para proteger a otros de ser víctimas.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd