Incidents associés
Des spots vidéo générés par l'IA mettant en vedette Taylor Swift approuvant un faux cadeau d'ustensiles de cuisine Le Creuset ont dupé certains fans et les ont amenés à adhérer à l'arnaque, a rapporté le New York Times [rapporté](https://www.nytimes.com/2024/01/ 09/technology/taylor-swift-le-creuset-ai-deepfake.html).
Même si Swift est fan du Creuset, elle n'a aucun lien marketing officiel avec l'entreprise. Mais les publicités omniprésentes sur Facebook et d’autres plateformes de médias sociaux voudraient vous faire penser le contraire.
La femme vue dans la fausse vidéo promotionnelle n'est ni Swift, ni même une vraie personne. Au lieu de cela, l’intelligence artificielle a été utilisée pour reproduire la voix et l’apparence du chanteur afin de créer une réplique convaincante connue sous le nom de « deepfake ». Les fraudeurs créent ce type de contenu synthétique avec un logiciel d'apprentissage automatique pour créer de fausses images de personnalités publiques à l'aide de clips vidéo et audio authentiques d'elles, qui sont abondants et faciles à trouver en ligne.
"Hé à tous, c'est Taylor Swift ici", dit la réplique deepfake de Swift dans la vidéo. "En raison d'une erreur d'emballage, nous ne pouvons pas vendre 3 000 batteries de cuisine Le Creuset. Je les offre donc gratuitement à mes fidèles fans."
Les utilisateurs sont invités par la femme générée par l'IA à cliquer sur un bouton situé sous l'annonce pour répondre à une enquête, et à le faire immédiatement « lorsque les stocks s'épuisent ».
On ne sait pas qui est derrière ces escroqueries. Un compte Facebook intitulé « Les actions les plus rentables » était l'une des affiches de l'arnaque inspirée de Swift.
Le Creuset a présenté ses excuses à ses fans d'ustensiles de cuisine qui ont été trompés par le deepfake.
"Le Creuset n'a aucun partenariat avec Taylor Swift. C'est une arnaque et nous travaillons avec diligence pour que ces publications soient supprimées", a déclaré la société dans un communiqué à CBS MoneyWatch.
Swift semble en effet être un fan des produits de la marque d'ustensiles de cuisine haut de gamme. Le Creuset a partagé une image du documentaire Netflix de Swift, "Miss Americana", montrant Swift dans sa cuisine en train d'utiliser le four hollandais rond de la marque, qui coûte jusqu'à 625 $.
Le Creuset a partagé une image de Swift utilisant un morceau de sa batterie de cuisine tirée d'un documentaire Netflix.NETFLIX
Les représentants de Swift n'ont pas immédiatement répondu à la demande de commentaires de CBS MoneyWatch.
Certes, Swift n’est pas la seule cible des célébrités des escrocs des réseaux sociaux. À mesure que la technologie de l'intelligence artificielle devient plus sophistiquée, ces types d'escroqueries deepfake sont en augmentation, a averti le Better Business Bureau [https://www.bbb.org/article/scams/18549-scam-alert-celebrity-impersonations- devenir plus sophistiqué avec la technologie IA) en avril dernier.
"Avant d'effectuer un achat, prenez une minute pour réexaminer la publication et le compte des réseaux sociaux", a déclaré le BBB dans un message. "Les photos et vidéos sont très probablement fausses. Si vous effectuez un achat, vous perdrez de l'argent (souvent plus que prévu) sur un produit de qualité inférieure ou qui n'existe pas."
L'acteur Tom Hanks et l'animatrice de CBS Mornings, Gayle King, ont tous deux utilisé leur image pour vendre des produits qu'ils n'approuvent pas.
King a republié une fausse vidéo liée à la perte de poids provenant d'une société appelée Artipet sur son propre compte Instagram avec une déclaration disant qu'elle n'est en aucun cas affiliée à l'entreprise ou au produit présumé, et avertissant ses abonnés de ne pas "se laisser berner par ces vidéos d'IA".