Problème 3170

Le FBI met en garde le public contre des acteurs malveillants créant du contenu synthétique (communément appelé « deepfakes ») en manipulant des photographies ou des vidéos bénignes pour cibler les victimes. Les progrès technologiques améliorent continuellement la qualité, la personnalisation et l'accessibilité de la création de contenu basée sur l'intelligence artificielle (IA). Le FBI continue de recevoir des rapports de victimes, y compris des enfants mineurs et des adultes non consentants, dont les photos ou vidéos ont été modifiées en contenu explicite. Les photos ou vidéos sont ensuite diffusées publiquement sur les réseaux sociaux ou sur des sites pornographiques, dans le but de harceler les victimes ou de commettre des complots de sextorsion.

Création de contenu explicite

Les acteurs malveillants utilisent des technologies et des services de manipulation de contenu pour exploiter des photos et des vidéos (généralement capturées à partir du compte de réseau social d'un individu, d'un Internet ouvert ou demandées à la victime) en images à thème sexuel qui semblent réalistes à l'image d'une victime, puis diffusez-les sur les réseaux sociaux, les forums publics ou les sites Web pornographiques. De nombreuses victimes, dont des mineurs, ignorent que leurs images ont été copiées, manipulées et diffusées jusqu'à ce qu'elles soient portées à leur attention par quelqu'un d'autre. Les photos sont ensuite envoyées directement aux victimes par des acteurs malveillants pour sextorsion ou harcèlement, ou jusqu'à ce qu'elle soit auto-découverte sur internet. Une fois diffusées, les victimes peuvent être confrontées à des défis importants pour empêcher le partage continu du contenu manipulé ou sa suppression d'Internet.

Sextorsion et harcèlement

La sextorsion, qui peut enfreindre plusieurs lois pénales fédérales, consiste à contraindre les victimes à fournir des photos ou des vidéos sexuellement explicites d'elles-mêmes, puis à menacer de les partager publiquement ou avec la famille et les amis de la victime. Les principales motivations à cet égard sont le désir d'avoir plus de contenu illicite, un gain financier ou d'intimider et de harceler les autres. Des acteurs malveillants ont utilisé des photos ou des vidéos manipulées dans le but d'extorquer des victimes pour obtenir une rançon ou pour obtenir le respect d'autres demandes (par exemple, l'envoi de photos nues).

Depuis avril 2023, le FBI a observé une augmentation du nombre de victimes de sextorsion signalant l'utilisation de fausses images ou vidéos créées à partir de contenu publié sur leurs sites de médias sociaux ou de publications Web, fournies à l'acteur malveillant sur demande ou capturées lors de chats vidéo. Sur la base de récents signalements de victimes, les acteurs malveillants ont généralement exigé : 1. Un paiement (par exemple, de l'argent, des cartes-cadeaux) avec des menaces de partager les images ou les vidéos avec des membres de la famille ou des amis des réseaux sociaux si les fonds n'étaient pas reçus ; ou 2. La victime envoie de vraies images ou vidéos à caractère sexuel.

Recommandations

Le FBI exhorte le public à faire preuve de prudence lors de la publication ou de la messagerie directe de photos personnelles, de vidéos et d'informations d'identification sur les réseaux sociaux, les applications de rencontres et d'autres sites en ligne. Bien qu'apparemment inoffensives lorsqu'elles sont publiées ou partagées, les images et les vidéos peuvent fournir aux acteurs malveillants une source abondante de contenu à exploiter à des fins criminelles. Les progrès de la technologie de création de contenu et des images personnelles accessibles en ligne offrent de nouvelles opportunités aux acteurs malveillants pour trouver et cibler les victimes. Cela les rend vulnérables à l'embarras, au harcèlement, à l'extorsion, aux pertes financières ou à la revictimisation continue à long terme.

Le FBI recommande au public de tenir compte des points suivants lorsqu'il partage du contenu (par exemple, des photos et des vidéos) ou lorsqu'il interagit avec des personnes en ligne :

• Surveiller l'activité en ligne des enfants et discuter des risques associés au partage de contenu personnel
• Faites preuve de discrétion lorsque vous publiez des images, des vidéos et du contenu personnel en ligne, en particulier ceux qui incluent des enfants ou leurs informations.
  • Les images, vidéos ou informations personnelles publiées en ligne peuvent être capturées, manipulées et distribuées par des acteurs malveillants à votre insu ou sans votre consentement.
  • Une fois le contenu partagé sur Internet, il peut être extrêmement difficile, voire impossible, de le supprimer une fois qu'il est diffusé ou publié par d'autres parties.
• Effectuez des recherches fréquentes en ligne sur vos informations et celles de vos enfants (par exemple, nom complet, adresse, numéro de téléphone, etc.) pour aider à identifier l'exposition et la diffusion d'informations personnelles sur Internet.
• Appliquez des paramètres de confidentialité sur les comptes de médias sociaux, y compris la définition de profils et de vos listes d'amis comme privés, pour limiter l'exposition publique de vos photos, vidéos et autres informations personnelles.
• Pensez à utiliser les moteurs de recherche d'images inversées pour localiser les photos ou vidéos qui ont circulé sur internet à votre insu.
• Faites preuve de prudence lorsque vous acceptez des demandes d'amis, communiquez, engagez des conversations vidéo ou envoyez des images à des personnes que vous ne connaissez pas personnellement. Méfiez-vous particulièrement des personnes qui vous demandent ou vous pressent immédiatement de les fournir. Ces éléments pourraient être capturés à l'écran, enregistrés, manipulés, partagés à votre insu ou sans votre consentement, et utilisés pour vous exploiter ou quelqu'un que vous connaissez.
• Ne fournissez pas d'argent ou d'autres objets de valeur à des personnes inconnues ou inconnues. Se conformer à des acteurs malveillants ne garantit pas que vos photos ou contenus sensibles ne seront pas partagés.
• Faites preuve de discrétion lorsque vous interagissez avec des personnes connues en ligne qui semblent agir en dehors de leur comportement normal. Les comptes de médias sociaux piratés peuvent facilement être manipulés par des acteurs malveillants pour gagner la confiance d'amis ou de contacts pour d'autres stratagèmes ou activités criminelles.
• Sécurisez les réseaux sociaux et autres comptes en ligne à l'aide de mots de passe ou de phrases secrètes complexes et d'une authentification multifacteur.
• Recherchez les politiques de confidentialité, de partage de données et de conservation des données des plates-formes, applications et sites Web de médias sociaux avant de télécharger et de partager des images, des vidéos ou tout autre contenu personnel.