Incidents associés
Selon une association de lutte contre la maltraitance des enfants, les pédophiles sont encouragés à utiliser l’intelligence artificielle pour créer des images dénudées d’enfants afin de leur extorquer des contenus plus extrêmes.
L’Internet Watch Foundation (IWF) a déclaré qu’un manuel trouvé sur le dark web contenait une section encourageant les criminels à utiliser des outils de « nudification » pour retirer les vêtements des photos de sous-vêtements envoyées par un enfant. L’image manipulée pourrait ensuite être utilisée contre l’enfant pour le faire chanter et l’amener à envoyer du contenu plus explicite, a déclaré l’IWF.
« C’est la première preuve que nous avons vue que les auteurs se conseillent et s’encouragent mutuellement à utiliser la technologie de l’IA à ces fins », a déclaré l’IWF.
L’association, qui trouve et supprime les contenus d’abus sexuels sur mineurs en ligne, a mis en garde l’année dernière contre une augmentation des cas d’extorsion où les victimes sont manipulées pour envoyer des images explicites d’elles-mêmes et sont ensuite menacées de divulgation de ces images à moins qu’elles ne remettent de l’argent. L’IWF a également signalé les premiers exemples d’utilisation de l’IA pour créer des contenus d’abus « incroyablement réalistes ».
L’auteur anonyme du manuel en ligne, qui compte près de 200 pages, se vante d’avoir « réussi à faire chanter » des filles de 13 ans pour qu’elles envoient des images nues en ligne. L’IWF a déclaré que le document avait été transmis à l’Agence nationale contre la criminalité du Royaume-Uni.
Le mois dernier, le Guardian a révélé que le parti travailliste envisageait d’interdire les outils de nudification qui permettent aux utilisateurs de créer des images de personnes dénudées.
L’IWF a également déclaré que 2023 était « l’année la plus extrême jamais enregistrée ». Selon son rapport annuel, l’organisation a découvert l’année dernière plus de 275 000 pages Web contenant des abus sexuels sur mineurs, soit le nombre le plus élevé enregistré par l’IWF, avec un nombre record de contenus de « catégorie A », qui peuvent inclure les images les plus graves, notamment le viol, le sadisme et la bestialité. L’IWF a déclaré que plus de 62 000 pages contenaient du contenu de catégorie A, contre 51 000 l’année précédente (https://www.theguardian.com/society/2023/apr/25/one-in-five-child-abuse-images-found-online-last-year-were-category-a-report).
L’IWF a découvert 2 401 images de contenus d’abus sexuels sur mineurs auto-générés – dans lesquels les victimes sont manipulées ou menacées pour enregistrer des abus sur elles-mêmes – prises par des enfants âgés de trois à six ans. Les analystes ont déclaré avoir vu des abus se produire dans des contextes domestiques, notamment dans des chambres à coucher et des cuisines.
Susie Hargreaves, directrice générale de l’IWF, a déclaré que les criminels opportunistes qui tentent de manipuler les enfants ne constituaient « pas une menace lointaine ». Elle a déclaré : « Si des enfants de moins de six ans sont ciblés de cette manière, nous devons avoir des conversations adaptées à leur âge dès maintenant pour nous assurer qu’ils savent comment repérer les dangers. »
Hargreaves a ajouté que la loi sur la sécurité en ligne, entrée en vigueur l’année dernière et imposant aux entreprises de médias sociaux un devoir de diligence pour protéger les enfants, « doit fonctionner ».
Tom Tugendhat, le ministre de la Sécurité, a déclaré que les parents devraient parler à leurs enfants de l’utilisation des médias sociaux. « Les plateformes que vous présumez sûres peuvent présenter un risque », a-t-il déclaré, ajoutant que les entreprises technologiques devraient mettre en place des mesures de protection plus strictes pour prévenir les abus.
Selon une étude publiée la semaine dernière par l'Ofcom, l'organisme de régulation des communications, un quart des enfants de trois à quatre ans possèdent un téléphone portable et la moitié des moins de 13 ans sont présents sur les réseaux sociaux. Le gouvernement se prépare à lancer une consultation dans les semaines à venir qui comprendra des propositions visant à interdire la vente de smartphones aux moins de 16 ans et à relever l'âge minimum d'accès aux sites de réseaux sociaux de 13 à 16 ans.