Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 4557

Incidentes Asociados

Incidente 79927 Reportes
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates

Loading...
El senador Ted Cruz propone una nueva legislación tras la historia de terror sobre la inteligencia artificial "deepfake" de una niña del norte de Texas
fox4news.com · 2024

DALLAS - La inteligencia artificial abrió las compuertas para la creación de imágenes pornográficas falsas realizadas sin consentimiento.

Un comité del Senado de Estados Unidos celebró una audiencia el miércoles en Dallas para abordar el creciente problema.

El senador Ted Cruz está proponiendo la legislación bipartidista llamada Take It Down Act.

Una estudiante de secundaria de Aledo es una de las víctimas de un adolescente que utilizó inteligencia artificial para crear una imagen falsa de ella desnuda a partir de una inocente foto de Instagram. Ella compartió valientemente su historia.

"El 2 de octubre de 2023, me desperté con mensajes de un amigo que decía que había fotos en las redes sociales, y no cualquier foto", recordó Elliston Berry.

Ese día de octubre cambió su vida.

"Tenía solo 14 años cuando sentí que mi futuro estaba arruinado", dijo.

La madre de Berry, Anna McAdams, explicó cómo un chico de 15 años de la escuela secundaria Aledo explotó sexualmente a su hija y a sus ocho amigas.

"Decidió tomar hermosas fotos inocentes de sus plataformas de redes sociales e imponerles fotos de desnudos con una aplicación de Google", dijo.

Y como si ese día no fuera suficientemente malo, la pesadilla de Berry continuó durante ocho meses.

Los mensajes de McAdams a Snapchat no recibieron respuesta.

"Los alguaciles me dijeron que no esperes respuesta. Probablemente no vas a recibir respuesta a pesar de que hicimos una orden judicial", dijo.

En una hora, las imágenes fueron eliminadas.

"No debería ser necesario que un senador en funciones se ponga al teléfono para eliminarlas", dijo Cruz. "Si Elliston fuera Taylor Swift, lo habrían derribado y así debería ser. Pero también deberían derribarlo todos los adolescentes de Texas. Deberían tener el mismo derecho. Y eso demuestra que Snapchat sabe exactamente cómo derribarlo".

McAdams acusó al distrito escolar de su hija de no manejar la situación adecuadamente.

"Aunque lo atraparon, no se nos permitió conocer su identidad", dijo. "La oficina del sheriff y la escuela dijeron que tenían que proteger su identidad como menor".

"Me sentí desprotegida caminando por la escuela", dijo Berry.

"Dado que muchos de estos crímenes son cometidos por adolescentes, ¿esto les traerá tiempo en prisión?", le preguntó a Cruz la reportera de FOX 4 Lori Brown.

Las principales discográficas están demandando a las nuevas empresas de música con inteligencia artificial Suno y Udio por violación de derechos de autor, alegando que usaron ilegalmente música de artistas como Chuck Berry y Mariah Carey sin la licencia adecuada.

"Potencialmente lo harán si cometen un delito federal y abusan de sus compañeros de clase, deberían enfrentar las consecuencias", dijo.

"¿Están recibiendo alguna resistencia de las grandes empresas tecnológicas por esto?", preguntó Brown.

"Hasta ahora no la hemos recibido", dijo Cruz. "Hemos visto el patrón de que cuando las víctimas les piden que eliminen esto, se demoran y no cumplen. Pero tienen que saber que es lo correcto".

Cruz dice que también espera que este proyecto de ley impulse a los distritos escolares a actualizar sus códigos de conducta.

El estudiante que victimizó a Berry solo recibió una suspensión dentro de la escuela.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd