Incidents associés
Ce rapport ne se concentre pas entièrement sur les détails de l'incident 903, mais y fait référence.
Selon Reuters, le ministère britannique de la Justice souhaite combler un vide juridique important. Si le partage de photos ou de vidéos intimes sans consentement (revenge porn) est illégal depuis 2015, la loi ne couvre pas jusqu'à présent le contenu généré par l'IA.
En vertu de la législation proposée, annoncée pour la première fois en avril 2024, la création ou le partage de deepfakes sexuellement explicites sans consentement pourrait entraîner des amendes ou des peines de prison. La nouvelle loi couvrirait toutes les formes de médias synthétiques, y compris les vidéos, les images et les enregistrements audio. Aucun calendrier de mise en œuvre n'a été annoncé.
La ministre de la Technologie, Margaret Jones, a déclaré que le gouvernement prévoyait également de sévir contre les plateformes qui hébergent ce type de contenu abusif, en mettant en place des contrôles plus stricts et des sanctions plus sévères. La ligne d'assistance britannique Revenge Porn Helpline rapporte que les abus liés aux deepfakes ont augmenté de plus de 400 % depuis 2017.
Impact dans le monde réel
Les deepfakes sexuels non consensuels atteignent les écoles. Une étude récente de The Human Factor a révélé que 60 % des enseignants craignent que leurs élèves soient impliqués dans des scandales de deepfake, tandis que 73 % des parents pensent que leurs enfants ne le seraient pas.
À Miami, deux adolescents, âgés de 13 et 14 ans, ont été arrêtés pour avoir créé et partagé des images de nus de leurs camarades de classe générées par l'IA. Ce qui rend ces cas particulièrement troublants, c'est que les images se propagent souvent via des groupes de discussion privés, où elles peuvent circuler pendant des mois.
Le cas de la politicienne nord-irlandaise Cara Hunter montre à quel point ces attaques peuvent être dévastatrices. Trois semaines avant une élection importante, une personne a partagé une vidéo pornographique de Cara Hunter qui s’est rapidement répandue sur WhatsApp. Les conséquences ont été des messages vulgaires, du harcèlement dans la rue et même des membres de sa famille ont remis en question ses dénégations parce que les faux semblaient trop convaincants.
L’Allemagne intensifie également sa réponse à la menace des faux. Un nouveau projet de loi proposé par le Conseil fédéral rendrait le partage de contenus générés par l’IA qui violent les droits de la personne passible d’une peine pouvant aller jusqu’à deux ans de prison ou d’une amende. Pour les faux qui empiètent sur des aspects très personnels de la vie, les contrevenants pourraient être condamnés à cinq ans de prison.