Incidents associés
Dans la liste croissante des escroqueries générées par l'IA, les fraudeurs ont désormais produit des publicités contrefaites mettant en vedette Taylor Swift pour une marque d'ustensiles de cuisine haut de gamme Le Creuset. Les publicités, créées à l'aide de la vidéo deepfake de Swift et de la voix générée par l'IA, ont incité ses fans à se séparer de leur argent et de leurs informations personnelles. Ces mentions trompeuses avaient été diffusées sur les plateformes de médias sociaux comme Facebook et TikTok, imitant la pop star.
Pourquoi cette histoire est-elle importante ?
Les usurpations d’identité de célébrités à l’aide d’outils d’IA sont en augmentation. Récemment, la voix de l'icône hollywoodienne Jimmy Stewart a été recréée par une start-up de clonage de voix, Respeecher, à l'aide d'un doubleur. De même, Tom Hanks et Scarlett Johansson ont ont également été victimes de clonage vocal dans le passé. Johansson a également poursuivi une application du nom de Lisa AI: 90s Yearbook & Avatar pour avoir utilisé sa voix et son visage dans sa publicité.
De fausses publicités affirmaient que Swift distribuait des batteries de cuisine gratuites
Dans ces fausses publicités, Swift, créée par l'IA, propose avec enthousiasme d'offrir gratuitement des batteries de cuisine Le Creuset à ses abonnés, connus sous le nom de Swifties. Il invitait les utilisateurs à cliquer sur un bouton et à répondre à quelques questions avant la fin de la journée. En cliquant sur le lien, ils ont été dirigés vers des sites Web apparemment authentiques, tels que Food Network, présentant des avis de clients fabriqués et de fausses nouvelles sur le produit.
Les fans ont été arnaqués pour payer des frais mensuels cachés
Une fois que les utilisateurs sont sur le lien, ils ont été amenés à payer des « frais d'expédition minimes de 9,96 $ » pour la batterie de cuisine. Finalement, ils finissent par payer des frais mensuels cachés sans jamais recevoir le pot Le Creuset promis. Le Dr Siwei Lyu, professeur d'informatique, a informé le New York Times qu'il faut moins de 45 minutes pour générer une vidéo de « qualité décente » à l'aide d'outils d'IA, qui sont de plus en plus disponibles.
Autres célébrités qui ont été la cible de telles escroqueries
Swift n'est pas la seule célébrité visée par de telles arnaques. La chanteuse country Lainey Wilson, l'architecte d'intérieur Joanna Gaines et la blogueuse lifestyle Ree Drummond auraient également été impliquées dans des escroqueries similaires. Pendant ce temps, Le Creuset a confirmé qu'il ne menait aucun accord de ce type et n'avait aucun lien avec Swift. Ils ont en outre exhorté les consommateurs à acheter des produits sur leur site officiel, les mettant en garde contre le fait de cliquer sur des publicités douteuses.