Incidentes Asociados
Con el tiempo, podría convertirse en un delito federal compartir imágenes de desnudos de personas reales alteradas digitalmente.
El representante Joseph Morelle (demócrata por Nueva York) volvió a proponer el martes la "Ley para prevenir la falsificación profunda de imágenes íntimas", que prohibiría el intercambio no consensuado de imágenes íntimas alteradas digitalmente. Había presentado previamente el proyecto de ley pero desde entonces agregó al representante Tom Kean, republicano de Nueva Jersey, como copatrocinador. Kean había presentado un proyecto de ley en noviembre llamado Ley de etiquetado de IA de 2023, que requeriría que el contenido generado por IA tener un etiquetado claro que lo identifique como tal.
La medida bipartidista del martes surge en respuesta a un incidente en Westfield High School en Nueva Jersey. Los niños compartían imágenes de desnudos de compañeras de clase generadas por IA sin su consentimiento. Cuando las niñas se enteraron, lo denunciaron a los administradores de la escuela, quienes lo refirieron en un correo electrónico a los padres como un "incidente muy grave".
Francesca Mani, una estudiante de 14 años a quien la escuela le dijo que su foto había sido incluida en algunas de las imágenes generadas, se enojó y decidió defender a otras víctimas. Ella y su madre, Dorota Mani, pasaron los últimos dos meses reuniéndose con legisladores y estuvieron presentes en Washington, D.C., el martes cuando Morelle y Kean anunciaron la legislación.
"Lo que nos pasó a mí y a mis compañeros de clase no estuvo bien, y no hay manera de que me encoja de hombros y lo deje pasar", dijo Francesca en un comunicado conjunto emitido por la oficina de Morelle. "Estoy aquí, levantándome y gritando por un cambio, luchando por leyes para que nadie más tenga que sentirse tan perdido e impotente como yo".
Si bien la gente ha podido modificar imágenes con Photoshop y software similar durante años, los nuevos creadores de imágenes con IA facilitan la producción de fotografías completamente fabricadas. Ahora existen docenas de herramientas gratuitas o económicas para intercambiar rostros y "quitar ropa" que pueden usarse para manipular fotografías reales, y es difícil para el ojo humano distinguir lo real de lo falso, según expertos en inteligencia artificial. Cualquier imagen se puede compartir fácilmente en plataformas sociales y de mensajería con unos pocos toques.
Aún así, las imágenes sexuales falsas de personas reales son tan nuevas que la ley federal está retrasada, dicen los expertos legales. Un puñado de estados, incluidos Virginia, California, Minnesota y Nueva York, han prohibido la distribución de pornografía falsificada o han otorgado a las víctimas el derecho de demandar a sus creadores en un tribunal civil.
Además de tipificar como delito el intercambio de imágenes íntimas alteradas digitalmente, la legislación propuesta por Morelle y Kean también permitiría a las víctimas demandar a los infractores en un tribunal civil.
En el comunicado, Morelle dijo: "No esperemos a que el próximo incidente masivo sea noticia. Esto les sucede todos los días a las mujeres en todas partes y es hora de devolverles su poder".
La oficina de Morelle no respondió de inmediato a una solicitud de más comentarios.