Incidentes Asociados
WASHINGTON --- El primer año de la estudiante de secundaria Elliston Berry se convirtió en una pesadilla en octubre, cuando una compañera de clase utilizó un programa de inteligencia artificial para convertir fotos inocentes de ella y sus amigas en desnudos "deepfake" y luego publicó las imágenes en la aplicación de redes sociales Snapchat.
"Una vez que se publicaron estas fotos, temía ir a la escuela y estaba ansiosa por poner un pie en el campus", dijo Elliston, quien cumplió 15 años a principios de este año, el martes en una conferencia de prensa en el Capitolio en la que se presentó una legislación bipartidista para acabar con los deepfakes.
Aunque la compañera de clase dejó su escuela, lo que le permitió a Elliston sentirse más segura de asistir a clases, "siempre habrá un temor de que estas fotos resurjan", dijo.
La experiencia convirtió a Elliston y a su madre, Anna McAdams, en defensoras que presionan a los legisladores para que tomen medidas enérgicas contra el intercambio de imágenes íntimas no consensuales, incluidas las producidas a través de programas capaces de crear fotos de desnudos que parecen auténticas.
Ellos compartieron su historia en una conferencia de prensa el martes con el senador estadounidense Ted Cruz, quien presentó una legislación para criminalizar la publicación o amenaza de publicación de imágenes íntimas no consensuales, incluidas fotos y videos realistas generados por computadora que representan a personas reales.
El proyecto de ley del republicano de Texas también requeriría que aplicaciones como Snapchat y sitios web eliminen las imágenes dentro de las 48 horas si la víctima lo solicita. La Comisión Federal de Comercio estaría a cargo de hacer cumplir ese requisito.
"Imagínese tener 14 años y presentarse en la escuela donde sus compañeros de clase creen que han visto una foto explícita suya que es falsa y un fraude. Las fotos pueden no ser reales, pero el dolor y la humillación sí lo son", dijo Cruz. "Para muchos adolescentes, cambia sus vidas para siempre".
Los partidarios de la propuesta de Cruz dijeron que casi todos los estados tienen leyes que protegen a las personas de la publicación de imágenes íntimas no consensuales, y muchas de ellas abordan explícitamente los deepfakes. Pero dijeron que las sanciones pueden variar y que las víctimas a menudo tienen problemas para que se eliminen las imágenes de los sitios web.
El Congreso aprobó una ley en 2022 que crea una causa de acción civil para que las víctimas demanden a quienes publiquen el material, pero presentar una demanda de este tipo puede ser costoso y llevar mucho tiempo.
Otros legisladores han presentado sus propias propuestas.
El senador estadounidense Dick Durbin, demócrata por Illinois, recientemente intentó aprobar por consentimiento unánime un proyecto de ley bipartidista que crearía una vía para que las víctimas demanden a quienes producen las imágenes o las poseen con la intención de distribuirlas.
La senadora estadounidense Cynthia Lummis, republicana por Wyoming, se opuso a esa legislación por considerarla demasiado amplia. Acompañó a Cruz en su conferencia de prensa del martes para apoyar su propuesta.
Cruz dijo que su proyecto de ley está diseñado para complementar otros proyectos de ley propuestos que apuntan a abordar las imágenes íntimas no consensuales. Incluye un requisito, el primero de su tipo, para que empresas como Snapchat creen un proceso para eliminar imágenes en un plazo de 48 horas.
Cruz promocionó al grupo bipartidista de 12 senadores que respaldan la legislación, la mitad de ellos demócratas.
McAdams dijo que la compañera de clase de su hija descargó fotos de una plataforma de redes sociales y las pasó por un programa que creó imágenes increíblemente realistas.
"Estas imágenes son pornografía infantil", dijo. "Estas chicas tenían 14 años. Su inocencia fue arrebatada ese día".
Dijo que intentó durante meses lograr que Snapchat eliminara las fotos. Cruz dijo que Snapchat lo hizo la semana pasada después de que él se quejara, y agregó que no debería ser necesario un miembro del Congreso para obligar a la empresa a actuar.
Snapchat se negó a hacer comentarios sobre su manejo de las fotos de Aledo.
La compañía ha dicho que su plataforma tiene políticas que prohíben la pornografía, las falsificaciones profundas, el acoso y la intimidación.
McAdams y Cruz señalaron las muy publicitadas falsificaciones de desnudos de Taylor Swift realizadas con inteligencia artificial, y dijeron que la estrella pop internacional usó su influencia para lograr que se eliminaran las imágenes.
"Si hubiéramos sido Taylor Swift, se habría derrumbado de inmediato", dijo McAdams. "Este proyecto de ley nos dará una voz que no teníamos antes".
McAdams también pidió a las juntas escolares que actualicen los códigos de conducta para cubrir este tipo de situaciones.
"Si podemos detenerlo en cualquier nivel", dijo. "Ese es nuestro objetivo en todo esto: simplemente hacer que algo que ha sido horrible sea un poco mejor para alguien más".
También ha pedido que se tomen medidas a nivel estatal.
El fiscal de distrito del condado de Parker, Jeff Swain, dijo por correo electrónico que la persona que creó las imágenes de Aledo High fue "sancionada" dentro del sistema juvenil, pero su nombre, el cargo y el castigo no se pudieron divulgar porque los procedimientos juveniles son confidenciales.
Swain dijo que la única referencia en la ley de Texas a un "deepfake" involucra la producción o distribución ilegal de videos, lo que no se aplicaría a las imágenes. La Legislatura de Texas también amplió los estatutos de pornografía infantil del estado para cubrir las imágenes editadas para contener la imagen de un niño.
"Esta disposición incluye imágenes que se editan con software convencional como Photoshop, así como aquellas editadas con inteligencia artificial", dijo Swain. "Dado que la ley de falsificación de documentos y la enmienda sobre pornografía infantil son relativamente nuevas, seguimos trabajando con nuestra comunidad de aplicación de la ley para capacitarlos sobre la interacción entre estas disposiciones".
McAdams dijo que Elliston siempre fue una "mariposa social" alegre y extrovertida, pero que se ha mantenido más cerca de su grupo de amigos después del incidente.
A Elliston le preocupa que las fotos puedan afectar algún día su capacidad para ingresar a la universidad o conseguir un trabajo, dijo McAdams.
Elliston dijo que espera que el proyecto de ley avance.
"No le deseo esta experiencia a nadie y espero crear algo que evite que cualquier estudiante tenga que pasar por esto", dijo.