Incidents associés
SEOUL, 2 septembre (Yonhap) -- Les images pornographiques deepfake ont poussé de nombreuses femmes sud-coréennes à supprimer leurs selfies de Facebook, Instagram et d'autres plateformes de médias sociaux, car on craint de plus en plus que personne ne soit une exception à ce crime dans le pays le plus connecté au monde.
"J'ai l'impression que ce qui aurait dû être l'endroit le plus sûr pour nous, notre vie quotidienne, a été violé", a déclaré une femme de 27 ans, qui s'est identifiée uniquement par son nom de famille Lee, révélant qu'elle avait supprimé toute trace d'elle-même des médias sociaux.
La question des deepfakes sexuels a fait l'objet de toutes les attentions lorsqu'un diplômé de l'Université nationale de Séoul âgé d'une quarantaine d'années aurait conspiré avec trois autres hommes pour créer des images et des vidéos sexuellement explicites de victimes en utilisant la technologie deepfake, et les partager sur Telegram.
Soixante et une victimes ont jusqu'à présent été identifiées, dont 12 anciens élèves de la même école que l'auteur.
En un rien de temps, les médias ont rapporté d'autres cas similaires de crimes sexuels deepfake, certains salons de discussion étant connus pour cibler les mineurs.
Une chaîne Telegram aurait compté plus de 220 000 membres et était équipée d'un programme qui transforme instantanément une photo en nu, les auteurs encourageant les membres à partager des photos de personnes qu'ils connaissent.
Bae Sang-hoon, professeur adjoint au département d'administration de la police de l'université de Woosuk, a déclaré que les auteurs de ces crimes sont motivés par des facteurs tels qu'un sentiment d'infériorité, l'amusement et parfois simplement le désir de harceler ou de se venger de quelqu'un en ligne alors que cela ne peut pas être fait physiquement.
"La première forme d'insulte à quelqu'un que vous connaissez a commencé lorsque, enfants, les gens dessinaient des moustaches sur une photo accrochée dans des toilettes publiques ou arrachaient les yeux d'une photo dans un album de fin d'études", a déclaré Bae.
La différence aujourd'hui est qu'avec la fusion de Telegram, largement utilisé par les adolescents et les jeunes générations, et de l'intelligence artificielle, cela a entraîné des dégâts explosifs à travers le pays, a déclaré le professeur.
« La technologie deepfake rend difficile de distinguer si quelque chose d'inventé est réel ou une caricature, et cette confusion la rend encore plus dangereuse », a déclaré Bae.
Le nombre de victimes de deepfake qui ont demandé l'aide de l'agence d'État chargée de lutter contre les crimes sexuels numériques s'élevait à 781 personnes entre le 1er janvier et le 25 août, et 288 d'entre elles, soit 36,9 %, étaient mineures.
Le ministère de l'Éducation a déclaré avoir reçu 196 signalements de dommages causés par de tels crimes sexuels deepfake parmi des étudiants et des enseignants entre janvier et mardi, les enseignants représentant 10 des cas.
Face à ces crimes deepfake, les femmes suppriment rapidement les photos d'elles-mêmes sur les réseaux sociaux, ou font tout leur possible pour traquer les suspects elles-mêmes.
Sur X, anciennement connu sous le nom de Twitter, des mots-clés comme « pornographie illégale » et « dénoncer les auteurs de deepfakes » ont figuré en tête des tendances du pays, de nombreux utilisateurs partageant une liste d'écoles suspectées d'être ciblées dans les salles de discussion, partageant des mises à jour d'articles d'actualité connexes et partageant des conseils sur la façon d'éviter d'être victime.
Un photographe, qui a demandé à rester anonyme, a déclaré qu'il « cesserait temporairement de publier des publications avec les visages de mannequins » en raison des inquiétudes concernant les crimes de deepfakes.
Kim Su-jeong, directrice du Women's Human Rights Counseling Center, a déclaré que le gouvernement devrait informer les auteurs de ces actes que leurs actions sont mauvaises et ne peuvent être tolérées, plutôt que de demander aux victimes de retirer leurs photos ou leurs publications.
« La violence répétée contre les femmes dans ce pays est le résultat de l'incapacité de l'État à écouter les nombreux appels lancés par le passé pour tirer la sonnette d'alarme sur le sujet, de la laxisme des sanctions contre les auteurs et du manque de sensibilisation au fait que de tels actes constituent des crimes », a-t-elle ajouté.
Mardi, le président Yoon Suk Yeol a exhorté les autorités à éradiquer les crimes sexuels numériques utilisant des deepfakes lors d'une réunion du cabinet, les qualifiant d'"acte criminel clair".
Dans une réponse tardive, le gouvernement a depuis annoncé une série de mesures, notamment le durcissement des sanctions pour les crimes sexuels deepfakes, la mise en place d'une hotline avec Telegram pour des consultations tout au long de l'année et la punition des personnes qui possèdent simplement du matériel pornographique deepfake.
Suite à des informations selon lesquelles de nombreuses victimes étaient mineures, le ministère de l'Éducation s'est également engagé à mieux éduquer les étudiants sur l'éthique numérique et à les former à la prévention des abus sexuels en ligne.
L'Agence nationale de police a également annoncé une répression intensive de sept mois contre les crimes sexuels deepfakes.
"La cause fondamentale de toute violence contre les femmes est la discrimination sexuelle, l'idée que les femmes ne sont pas des êtres égaux mais que certaines s'opposent à l'assouvissement de leurs désirs sexuels, et même la culture où les hommes partagent cela comme une sorte d'activité amusante et s'encouragent mutuellement", a déclaré Kim.
Bae Jeong-weon, directrice du Centre pour la sexualité et la vie harmonieuse et professeure adjointe à l'université de Seong, a déclaré que l'exposition à des contenus pornographiques dès le plus jeune âge et la prévalence de l'objectification des femmes dans la société rendent les adolescents insensibles à ces crimes.
« De nombreux adolescents ont tendance à considérer cela comme une sorte de jeu dans lequel ils jouent pour améliorer leur niveau, souvent de manière compétitive avec d'autres pairs », a-t-elle déclaré, soulignant l'exposition répandue à ce type de contenu sexuel dans les jeux, la pornographie et le cyberespace qui les conduit souvent à objectiver les femmes.
En évoquant la récente initiative de la France visant à interdire les téléphones portables à l'école pour les enfants de moins de 15 ans et un débat similaire au Royaume-Uni, Bae a déclaré : « Même si nous ne pouvons pas aller aussi loin, nous devons au moins inspecter et exclure l'accès des adolescents aux jeux violents. »
Bae a également souligné que l'éducation aux médias et l'éducation à l'humanisme sont tout aussi importantes.
« La vraie question est de savoir si nous avons le temps d’apprendre aux enfants à construire leur caractère humaniste dans un système éducatif qui enferme les étudiants dans un cycle sans fin de tests et de compétitions », a-t-elle demandé.
Jeudi après-midi, près de 70 étudiants et membres de groupes de défense des droits des femmes se sont rassemblés devant la gare de Gangnam, dans le sud de Séoul, pour réclamer une enquête approfondie sur les crimes de deepfakes, des sanctions sévères pour les auteurs et un ensemble de mesures de prévention fondamentales.
« Les deepfakes ne sont pas un jeu ! », ont-ils scandé. « La violence ne peut pas nous briser ! »