Incidentes Asociados
El pasado mes de octubre, Elliston Berry, de 14 años, se despertó con una pesadilla.
El teléfono de la adolescente se llenó de llamadas y mensajes de texto que le decían que alguien había compartido imágenes falsas de ella desnuda en Snapchat y otras plataformas de redes sociales.
“Me dijeron que se había corrido por toda la escuela”, dijo Berry, de Texas, a Fox News. “Y daba mucho miedo pasar por las clases y asistir a la escuela, porque el miedo de que todos vieran esas imágenes me generó mucha ansiedad”.
Las fotos fueron generadas por IA, lo que se conoce como deepfakes. Estas imágenes y videos generados se han vuelto terriblemente frecuentes en los últimos años. Los deepfakes están diseñados para parecer hiperrealistas y se utilizan a menudo para hacerse pasar por figuras públicas importantes o crear pornografía falsa. Pero también pueden causar un daño significativo a la gente común.
Berry, que ahora tiene 15 años, está pidiendo a los legisladores que incluyan sanciones penales en la ley para los perpetradores con el fin de proteger a las futuras víctimas de imágenes deepfakes.
La adolescente le dijo al medio que después de descubrir lo que había sucedido, inmediatamente fue a ver a sus padres. Su madre, Anna McAdams, le dijo a Fox News que sabía que las imágenes eran falsas. McAdams se comunicó con Snapchat varias veces durante un período de ocho meses para que eliminaran las fotos.
Si bien las falsificaciones profundas de Berry finalmente fueron eliminadas, McAdams le dijo a CNN, el compañero de clase que las distribuyó enfrenta pocas repercusiones.
“Este chico no recibirá ningún tipo de consecuencia real más allá de un poco de libertad condicional, y luego, cuando tenga 18 años, se borrarán sus antecedentes y seguirá con su vida, y nadie sabrá nunca realmente qué pasó”, dijo McAdams a CNN.
Esta semana, el senador republicano Ted Cruz, la senadora demócrata Amy Klobuchar y varios colegas copatrocinaron un proyecto de ley que exigiría a las empresas de redes sociales eliminar la pornografía deepfake en un plazo de dos días tras recibir un informe.
La Ley de eliminación de contenido también convertiría en delito la distribución de estas imágenes, dijo Cruz a Fox News. Los perpetradores que ataquen a adultos podrían enfrentar hasta dos años de prisión, mientras que aquellos que ataquen a niños podrían enfrentar tres años.
Cruz dijo que lo que le sucedió a Berry “es un patrón enfermizo y retorcido que se está volviendo cada vez más común”.
“[El proyecto de ley] impone una obligación legal a las grandes empresas tecnológicas de eliminar las imágenes cuando la víctima o la familia de la víctima lo soliciten”, dijo Cruz. “La madre de Elliston fue a Snapchat una y otra vez, y Snapchat solo dijo: ‘Ve a saltar a un lago’. Simplemente los ignoraron durante ocho meses”.
Un portavoz de Snap Inc, la empresa matriz de Snapchat, dijo que la plataforma no permite la pornografía y tiene políticas que prohíben los deepfakes y el acoso.
La madre y la hija dicen que la legislación es esencial para proteger a las futuras víctimas, y podría haber significado consecuencias más graves para el compañero de clase que compartió los deepfakes.
"Si [esta ley] hubiera estado en vigor en ese momento, esas fotos habrían sido eliminadas en 48 horas, y él podría estar enfrentando tres años de cárcel... por lo que recibiría un castigo por lo que realmente hizo", dijo McAdams a CNN.
Si bien las fotos ahora están fuera de Snapchat, Berry dice que está aterrorizada de que vuelvan a aparecer si se aprueba la Ley de eliminación de fotos.
"Sigue siendo muy aterrador que estas imágenes estén fuera de Snapchat, pero eso no significa que no estén en los teléfonos de los estudiantes, y todos los días he tenido que vivir con el miedo de que estas fotos vuelvan a aparecer", dijo Berry. “Con la aprobación de esta ley, ya no tendré que vivir con el temor de saber que quienquiera que muestre estas imágenes será castigado”.
Este artículo fue actualizado con un comentario de Snap Inc.