Incidents associés
Les fraudeurs ont créé une deepfake annonce en utilisant [Taylor Swift](https://www.dailymail.co.uk/tvshowbiz/taylor_swift/ index.html) dans le but d'arnaquer ses fans avec de l'argent.
L'annonce générée par AI, qui circulait en ligne au début du mois, faisait la promotion d'un cadeau inexistant entre la popstar et Le Creuset. ustensiles de cuisine.
La publicité présentait une version synthétique de la voix de Swift, associée à des images d'elle et du Creuset néerlandais fours, disant : "Hé vous tous, c'est Taylor Swift ici. En raison d'une erreur d'emballage, nous ne pouvons pas vendre 3 000 batteries de cuisine Le Creuset, je les offre donc gratuitement à mes fidèles fans.
Les clients qui cliquaient sur l'annonce, qui a depuis été supprimée de Facebook, seraient ensuite dirigés vers des sites Web imitant des plateformes d'articles ménagers populaires comme Food. Réseau, selon le New York Times.
Les participants au concours seraient ensuite invités à payer des « frais d'expédition minimes de 9,96 $ » pour recevoir leur batterie de cuisine gratuite. Après avoir effectué le paiement, les consommateurs auraient dû payer des frais mensuels et n'auraient jamais reçu le set de cuisine.
Le Creuset a déclaré qu'il ne collaborait pas avec Swift, 34 ans, sur des cadeaux destinés aux consommateurs et a encouragé les acheteurs à obtenir ses comptes officiels sur les réseaux sociaux avant de cliquer sur les publicités.
L'annonce semble avoir été initialement publiée sur une page Facebook intitulée Les actions les plus rentables.
La version deepfake de Swift a déclaré à « Swifties », l'expression utilisée pour décrire ses fans, qu'elle était « ravie » d'offrir des sets Le Creuset gratuits.
Après avoir annoncé le cadeau, Swift, généré par l'IA, a demandé aux téléspectateurs de répondre immédiatement à un sondage pour récupérer leur prix, notant que « les fournitures s'épuisent ».
La publicité avait recueilli environ 2 300 vues avant d'être retirée. Un porte-parole de Meta, la société mère de la plateforme, a confirmé à [NBC News](https://www.nbcnews.com/ tech/taylor-swift-ai-generated-le-creuset-ad-not-real-rcna133285) mercredi qu'il avait supprimé l'annonce.
Le Creuset a nié toute affiliation à la promotion, déclarant à MailOnline : « Le Creuset n'est impliqué avec Taylor Swift pour aucun cadeau destiné aux consommateurs.
« Tous les cadeaux ou promotions approuvés par Le Creuset proviennent des comptes sociaux officiels de Le Creuset. Les consommateurs devraient toujours consulter les comptes sociaux officiels et le site Web de Le Creuset avant de cliquer sur des publicités suspectes.
Les experts en IA pensent que l'annonce a probablement été créée à l'aide d'un service de synthèse vocale qui traduit un script en voix synthétique. Le faux audio peut ensuite être incorporé dans des clips vidéo déjà existants à l’aide de programmes de synchronisation labiale.
Rien n’indique que Swift soit lié de quelque manière que ce soit à l’annonce. Le chanteur d'Anti-Hero est photographié en train d'arriver mercredi pour dîner au hotspot Lucali à Brooklyn, New York.
"Ces outils deviennent très accessibles de nos jours", a déclaré le Dr Siwei Lu, professeur d'informatique à l'université de Buffalo, au [New York Times](https://www.nytimes.com/2024/01/09/technology /taylor-swift-le-creuset-ai-deepfake.html). "Cela devient très facile, et c'est pourquoi nous en voyons davantage."
Le Dr Lu a ajouté que la technologie de l'IA permet aux utilisateurs de créer une « vidéo de qualité décente » en moins de 45 minutes.
Rien n'indique que Swift soit lié de quelque manière que ce soit à la publicité, même si le chanteur d'Anti-Hero est connu pour avoir une affinité avec la marque d'ustensiles de cuisine haut de gamme.
L'actrice Jamie King a offert à Swift un coffret Le Creuset comme cadeau de pendaison de cr émaillère en 2014. La chanteuse a également été vue dans une cuisine en train d'utiliser les produits de la marque dans son [Netflix](https://www.dailymail.co.uk/tvshowbiz/netflix/ index.html) documentaire Miss Americana (2020).
Meta et un porte-parole de Swift n'ont pas immédiatement répondu aux demandes de commentaires de MailOnline.
Swift est la dernière célébrité à être ciblée par une fausse publicité. En octobre dernier, l'acteur Tom Hanks a averti ses abonnés sur les réseaux sociaux que son portrait était utilisé pour promouvoir « un régime de soins dentaires » avec lequel il n'avait « rien à voir ».
La personnalité de la télévision Gayle King a publié un message similaire un jour après que Hanks ait averti ses fans qu'un deep fake d'IA avait été créé pour promouvoir un produit faucon qu'elle n'approuvait pas.
Les fraudeurs ont utilisé une vidéo récente que King avait publiée pour promouvoir son émission de radio, mais l'ont doublée avec un son synthétique. La star de la télévision a dit à ses abonnés de « ne pas se laisser berner » par la publicité.
De même, l'équipe juridique de Scarlett Johansson a demandé en novembre dernier que Lisa AI, une application qui crée des avatars à partir d'images de personnes réelles, cesse d'utiliser son image dans sa publicité en ligne.
Cela survient alors qu'un nouveau rapport avertit que [fausses nouvelles basées sur l'IA ](https://www.dailymail.co.uk/news/article-12949667/AI-fake-news-threatens-disrupt-elections-violence-report .html) menace de perturber les élections mondiales, risquant ainsi la violence et mettant en péril la liberté de la presse.
La propagation de la désinformation a été désignée comme le risque le plus important pour les deux prochaines années, selon un sondage mené auprès de 1 400 chefs d’entreprise et experts.
Les progrès de l’intelligence artificielle rendent plus difficile la distinction entre le contenu généré par ordinateur, comme les vidéos deepfakes, et la réalité.