Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 5106

Incidents associés

Incident 104819 Rapports
Tennessee Meteorologist's Likeness Reportedly Used in Sextortion Campaign Involving Purported AI-Generated Content

Loading...
Une ancienne météorologue de télévision lutte contre les deepfakes après que son image a été falsifiée dans des escroqueries de sextorsion
cbsnews.com · 2025

Pendant près de dix ans, Bree Smith était un visage familier à Nashville. Mais en janvier, cette mère et ancienne météorologue de télévision a cessé d'apparaître sur la chaîne locale affiliée à CBS, une décision prise après des mois de lutte contre les deepfakes, ces fausses images ou vidéos en ligne pouvant sembler réalistes.

Dans le cas de Bree Smith, une image d'elle a été truquée pour créer des images et des vidéos explicites, son visage étant superposé à différents corps partiellement nus, puis utilisée pour tenter d'extorquer de l'argent à d'autres personnes. Selon le FBI, des escroqueries à la sextorsion comme celle-ci ont ciblé des dizaines de milliers d'Américains au cours de la seule année écoulée.

« Je pleure presque toute la nuit, surtout parce que je ne veux pas que mes enfants me voient », a déclaré Mme Smith, 43 ans. Elle se souvient avoir découvert ces images dans un courriel, qui comprenait une capture d'écran d'un échange entre l'expéditeur et un « imitateur » se faisant passer pour sa version truquée sur Internet.

Les deepfakes se sont rapidement multipliés, accompagnant des offres de dîners privés et d'actes intimes en échange de centaines de dollars, et ciblant quiconque pourrait reconnaître Smith. Elle a commencé à suivre les nouveaux comptes utilisant le deepfake dans une feuille de calcul Google et en a ajouté 24 en une seule semaine, parmi les centaines qui, selon elle, ont émergé en ligne. Une vidéo fabriquée a également fait surface, où un deepfake prétend être Smith.

« En gros, vous usurpez l'identité de quelqu'un », a-t-elle déclaré. « Vous l'utilisez comme une arme. »

Smith est devenue une fervente défenseuse de réglementations qui pourraient permettre aux victimes de sextorsion de se défendre contre leurs agresseurs. La semaine dernière, un projet de loi soutenu par Smith a été adopté au Sénat du Tennessee. Ce projet de loi, intitulé « Preventing Deepfake Images Act », a été transmis au gouverneur du Tennessee, Bill Lee, qui devrait le promulguer. Ce projet de loi offre aux personnes victimes d'escroqueries par sextorsion la possibilité d'engager des poursuites judiciaires si des images d'elles sont partagées sans leur consentement.

« Ces imposteurs essaient de voler mon histoire, et mon histoire m'appartient », a déclaré Smith. « C'est ma vie. J'ai 43 ans, j'ai travaillé dur et j'ai aimé, et je ne vais pas me laisser faire. »

Elle a ajouté que « définir cette pratique comme illégale est une première étape cruciale », mais que des efforts restent à faire, notamment pour trouver comment y mettre fin et tenir les personnes responsables.

Alors que le projet de loi était examiné par l'Assemblée législative du Tennessee, Smith a comparu le mois dernier devant la sous-commission de la justice pénale de la Chambre des représentants du Tennessee afin de partager son expérience des deepfakes et les conséquences de cette escroquerie sur elle et sa famille. Lors de son témoignage devant les législateurs, elle a déclaré que des comptes deepfake se faisant passer pour elle sont apparus sur Facebook et Instagram, en quantité trop importante pour qu'elle puisse les trouver et les signaler individuellement, a rapporté WSMV, filiale de CBS News.

« Je fais de mon mieux pour attraper les imposteurs et les bloquer, mais comme je l'ai dit, il y en a eu des centaines. C'est comme frapper une taupe, ils apparaissent partout », a déclaré Smith aux législateurs. « Je suis juste censée les regarder et dire : "On ne peut rien faire, mon pote ?" »

Selon le Centre de plaintes pour cybercriminalité du FBI, plus de 34 000 victimes de sextorsion ont été recensées en 2023. Ce nombre a grimpé à plus de 54 000 victimes l'année dernière. Le FBI a indiqué que la sextorsion financière, qui diffère de la sextorsion classique car elle implique que l'agresseur menace de divulguer du contenu explicite si une somme d'argent n'est pas versée, est en hausse aux États-Unis et cible les mineurs.

Hayley Elizondo, qui suit les crimes de sextorsion au Centre national pour les enfants disparus et exploités, a déclaré que le profit est l'objectif principal des auteurs.

« Ces agresseurs cherchent avant tout à gagner de l'argent », a-t-elle déclaré. « Je ne suis pas surprise que des adultes deviennent également la cible de sextorsion financière. Franchement, ils vont s'adresser à ceux qui peuvent les payer. »

Les autorités affirment que la chose la plus importante à faire si l'on pense être victime de deepfakes est de les signaler.

« Si vous tombez sur un contenu deepfake vous impliquant ou impliquant une personne de votre entourage, signalez-le à la plateforme qui l'héberge », conseille la National Cybersecurity Alliance, une organisation à but non lucratif. « Cela peut contribuer à sa suppression ou à une enquête, limitant ainsi sa portée potentielle. »

L'organisation conseille également de signaler le contenu aux forces de l'ordre fédérales, via le Centre de plaintes pour la criminalité sur Internet (https://www.ic3.gov/).

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd