Incidentes Asociados
Elliston Berry se despertó un lunes por la mañana en octubre pasado con algunos mensajes de texto alarmantes. Sus amigos le preguntaban si había visto fotos de ella desnuda que circulaban entre los estudiantes de su escuela secundaria de Texas.
Uno envió una captura de pantalla. Ella se sorprendió. La imagen mostraba su rostro... pero no era su cuerpo.
Un compañero de clase, como se enteraría más tarde, había tomado al menos dos fotos de su cuenta privada de Instagram y la había dejado desnuda utilizando un software de eliminación de ropa impulsado por inteligencia artificial. Dos de sus amigos también fueron víctimas de la manipulación de las fotos.
Utilizando cuentas anónimas de Snapchat, el chico compartió las fotos con otros estudiantes de Aledo High School, en un pequeño pueblo a las afueras de Fort Worth. A medida que avanzaba el día, supuestamente creó y compartió desnudos falsos de otras seis chicas en el grupo de amigos de Berry.
"Nunca había pensado en que alguien hiciera algo así", dice Berry, que ahora tiene 15 años. "Despertar y ver eso fue surrealista".
Las adolescentes de todo el país están lidiando con las consecuencias de esta nueva y perturbadora tendencia. Berry y su familia están tratando de evitar que otras personas experimenten la vergüenza y la preocupación que pueden generar este tipo de imágenes, a las que a veces se denomina deepfakes. Compartieron su historia con el senador Ted Cruz (republicano por Texas).
El martes, Cruz, junto con la senadora Amy Klobuchar (demócrata por Minnesota) y un grupo bipartidista de senadores, presentó un proyecto de ley que penalizaría la publicación de imágenes de desnudos no consensuales, ya sean reales o falsas. También exigiría a las empresas de redes sociales y otros sitios web que eliminen las imágenes dentro de las 48 horas posteriores a recibir la notificación de la víctima.
El proyecto de ley se suma a un creciente conjunto de proyectos de ley estatales y legislaciones federales que pretenden detener esta nueva forma de acoso.
'No podía concentrarme'
Berry dice que las fotos parecían convincentes. Una imagen de Berry fue creada a partir de una foto real tomada de ella de pie en un crucero. Algunas fotos originales de sus amigos habían sido tomadas en una playa. El único indicio de que las versiones desnudas estaban manipuladas era que los sujetos nunca habrían estado sin ropa en entornos públicos tan públicos.
El nuevo software de generación de imágenes con IA facilita la producción de fotos de apariencia creíble. Google y Apple han estado eliminando aplicaciones de inteligencia artificial que generan desnudos de sus tiendas de aplicaciones.
Berry y otras víctimas de desnudos falsos dicen que les preocupan las ramificaciones a largo plazo de que esas imágenes salgan a la luz cuando solicitan ingreso a la universidad o empleos. También hay preocupaciones inmediatas. Berry dice que le preocupaba contárselo a su madre y a su padrastro.
"Es muy difícil admitirlo ante tus padres aunque las imágenes no sean reales", dice.
Sus padres la apoyaron y prometieron hacer todo lo posible para poner fin a su pesadilla. Berry se quedó en casa sin ir a la escuela durante unos días, pero tuvo que volver ese viernes para asistir a la práctica de voleibol.
"Estaba tan absorta en esas imágenes que no podía concentrarme", dice.
Cuando caminaba por los pasillos de la escuela, se preguntaba quién había visto las imágenes y si creerían que eran falsas. "Me sentí avergonzada y temerosa", dice.
Código de conducta estudiantil vs. ley estatal
Anna McAdams, la madre de Berry, informó el incidente a los administradores de la escuela, quienes, según ella, llevaron a cabo una investigación que reveló que el autor era un compañero de primer año. El adolescente, dice McAdams, completó el semestre en un edificio separado en el campus donde los estudiantes cumplen con el castigo, y dejó la escuela después de las vacaciones de invierno.
Jeff Swain, fiscal de distrito del condado de Parker, Texas, dice que el chico fue sancionado dentro del sistema de justicia juvenil.
Aunque Berry ya no tenía que ver al chico, le resultó difícil participar plenamente en la escuela.
"Me tomó por sorpresa y me generó mucha ansiedad", dice. "Soy una persona sociable, pero di un paso atrás y me volví más cerrada".
Una portavoz del Distrito Escolar Independiente de Aledo dice que el distrito ayudó al departamento del sheriff del condado con su investigación y disciplinó al niño de acuerdo con el código de conducta estudiantil y la ley estatal.
"El distrito está revisando su código de conducta estudiantil teniendo en cuenta el posible uso de IA por parte de los estudiantes", dice la portavoz. La ley estatal establece consecuencias más severas para la mala conducta de los estudiantes y se aplica a todas las escuelas públicas de Texas, agrega, por lo que depende del estado revisar esas leyes.
"Creo que hay mucha confusión en la comunidad policial sobre los casos que involucran deepfakes", dice Swain, el fiscal de distrito. Dos leyes estatales potencialmente los cubren, incluida una que se actualizó para penalizar las imágenes de abuso infantil manipuladas con software convencional o impulsado por IA. Dado que las leyes son nuevas, la aplicación es un trabajo en progreso, agrega.
La ley TAKE IT DOWN
McAdams se puso en contacto con Dorota Mani, la madre de otra adolescente víctima de desnudos falsos, después de que escribiera sobre una situación similar que ocurrió aproximadamente al mismo tiempo en Westfield, N.J.
Mani había hablado con legisladores locales y federales y fue fundamental para lograr que el representante Joseph Morelle (demócrata por Nueva York) volviera a presentar la "Ley de prevención de falsificaciones profundas de imágenes íntimas" en enero. Una portavoz de Morelle dice que el proyecto de ley ahora tiene más de 50 copatrocinadores y está a la espera de que lo considere el Comité Judicial de la Cámara.
McAdams comenzó a llamar a funcionarios estatales y federales, incluida Cruz. Recientemente la llamó de vuelta. Ella y su hija estuvieron con él en Washington, D.C., el martes cuando presentó su proyecto de ley: "Herramientas para abordar la explotación conocida mediante la inmovilización de deepfakes tecnológicos en sitios web y redes", también conocido como TAKE IT DOWN (eliminarlo).
Después de que se compartieran los desnudos falsos de Berry, eliminó todas sus publicaciones de Instagram durante unos meses y redujo a sus seguidores. El autor había sido un conocido que solicitó seguir su cuenta privada en Instagram el año anterior. Dice que ahora solo acepta a personas que conoce bien.
Berry dice que la experiencia la dejó menos confiada y más cínica.
"He aprendido a estar preparada para cualquier cosa", dice.