Incidentes Asociados
Este informe no se centra exclusivamente en los detalles del incidente 903, pero hace referencia a ellos.
Según Reuters, el Ministerio de Justicia británico quiere cerrar una importante brecha legal. Si bien compartir fotos o videos íntimos sin consentimiento (porno de venganza) ha sido ilegal desde 2015, la ley no ha cubierto el contenido generado por IA hasta ahora.
Según la legislación propuesta, anunciada por primera vez en abril de 2024, crear o compartir deepfakes sexualmente explícitos sin consentimiento podría resultar en multas o penas de prisión. La nueva ley cubriría todas las formas de medios sintéticos, incluidos videos, imágenes y grabaciones de audio. No se ha anunciado ningún cronograma para su implementación.
La ministra de Tecnología, Margaret Jones, afirma que el gobierno también planea tomar medidas enérgicas contra las plataformas que albergan este tipo de contenido abusivo, implementando controles más estrictos y sanciones más duras. La línea de ayuda para pornografía vengativa del Reino Unido informa que el abuso relacionado con deepfakes ha aumentado más del 400 por ciento desde 2017.
Impacto en el mundo real
Los deepfakes sexuales no consensuados están llegando a las escuelas. Un estudio reciente de The Human Factor descubrió que el 60 por ciento de los maestros temen que sus estudiantes puedan estar involucrados en escándalos de deepfake, mientras que el 73 por ciento de los padres cree que sus hijos no estarían involucrados.
En Miami, dos adolescentes de 13 y 14 años fueron arrestados por crear y compartir imágenes de desnudos de sus compañeros de clase generadas por IA. Lo que hace que estos casos sean particularmente preocupantes es que las imágenes a menudo se difunden a través de grupos de chat privados, donde pueden circular durante meses.
El caso de la política norirlandesa Cara Hunter muestra lo devastadores que pueden ser estos ataques. Tres semanas antes de unas elecciones importantes, alguien compartió un vídeo pornográfico de ella que se difundió rápidamente por WhatsApp. Las consecuencias incluyeron mensajes vulgares, acoso callejero e incluso familiares que cuestionaron sus negaciones porque las falsificaciones parecían muy convincentes.
Alemania también está intensificando su respuesta a la amenaza de las deepfakes. Un nuevo proyecto de ley propuesto por el Consejo Federal sancionaría con hasta dos años de prisión o una multa el hecho de compartir contenido generado por IA que viole los derechos personales. En el caso de las deepfakes que se inmiscuyan en aspectos muy personales de la vida, los infractores podrían enfrentarse a hasta cinco años de cárcel.