Incidents associés
L'affinité de Taylor Swift pour Le Creuset est réelle : sa collection d'ustensiles de cuisine a été présentée sur un compte Tumblr dédié à la décoration intérieure de la pop star, présentée dans ses choix de cadeaux lors de [la fête prénuptiale d'un fan](https://www.latimes. com/entertainment/la-xpm-2014-apr-14-la-et-mg-taylor-swift-bridal-shower-superfan-surprise-gena-gabrielle-20140414-story.html) et montré dans un documentaire Netflix qui a été souligné par la page Facebook du Creuset.
Ce qui n'est pas réel : l'approbation par Mme Swift des produits de l'entreprise, qui sont apparus ces dernières semaines dans des publicités sur Facebook et ailleurs mettant en vedette son visage et sa voix.
Ces publicités font partie des nombreuses escroqueries ciblant les célébrités, rendues bien plus convaincantes par l’intelligence artificielle. En une seule semaine d'octobre, l'acteur Tom Hanks, la journaliste [Gayle King] (https://www.instagram.com/p/Cx54IIFuozI/?utm_source=ig_embed&ig_rid=bcc2f57d-b3cf-456f-a0a4-3088b0cbefa8&img_index=1) et la personnalité YouTube [MrBeast](https://twitter.com/MrBeast/ status/1709046466629554577?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1709046466629554577%7Ctwgr%5Eb83cc485a89e303e7b9e15d95e821baea6dcb0f5% 7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fcointelegraph.com%2Fnews%2Ftom-hanks-mrbeast-gayle-king-ai- deep-fakes-scams) ont tous dit que l'IA des versions d'eux-mêmes avaient été utilisées, sans autorisation, pour des promotions trompeuses sur les régimes de soins dentaires, des offres gratuites sur iPhone et d'autres publicités.
Dans le cas de Mme Swift, selon les experts, la technologie de l'intelligence artificielle a contribué à créer une version synthétique de la voix de la chanteuse, qui a été bricolée avec des images d'elle ainsi que des clips montrant des fours hollandais Le Creuset. Dans plusieurs publicités, la voix clonée de Mme Swift s'adressait à « Swifties » – ses fans – et disait qu'elle était « ravie » de distribuer des batteries de cuisine gratuites. Il suffisait aux gens de cliquer sur un bouton et de répondre à quelques questions avant la fin de la journée.
Le Creuset a déclaré qu'il n'était pas impliqué avec le chanteur pour un quelconque cadeau destiné aux consommateurs. La société a exhorté les acheteurs à vérifier ses comptes en ligne officiels avant de cliquer sur des publicités suspectes. Représentants de Mme Swift, qui a été nommée Personne de l'année par Time magazine en 2023, n’a pas répondu aux demandes de commentaires.
Dans des publicités récentes publiées sur Meta, la technologie de l'intelligence artificielle a contribué à créer une version synthétique de la voix de Taylor Swift, qui a été associée à des images d'elle et à des extraits des fours hollandais Le Creuset.
Des personnages célèbres prêtent leur célébrité aux annonceurs depuis aussi longtemps que la publicité existe. Parfois, c’était à contrecœur. Il y a plus de trente ans, Tom Waits a poursuivi Frito-Lay --- et a gagné près de 2,5 millions de dollars --- après que la société de chips de maïs ait imité le chanteur dans une publicité radiophonique sans sa permission. La campagne d'arnaque du Creuset présentait également des versions fabriquées de Martha Stewart et d'Oprah Winfrey, qui en 2022 ont publié [une vidéo exaspérée](https://www.oprahdaily.com/entertainment/a41832519/oprah-weight-loss-gummies-diet- pills/?fbclid=IwAR05PfWlM6jPvv4VmCcUrviH5Mts1dugzxy9ukBdjUIvgu2vxCJw4xaWGEk#%5C) sur la prévalence de fausses publicités, e-mails et sites Web sur les réseaux sociaux affirmant faussement qu'elle approuvait les bonbons gélifiés pour perdre du poids.
Au cours de l’année écoulée, des progrès majeurs dans le domaine de l’intelligence artificielle ont rendu beaucoup plus facile la production d’une réplique numérique non autorisée d’une personne réelle. Les usurpations audio sont particulièrement faciles à produire et difficiles à identifier, a déclaré Siwei Lyu, professeur d'informatique qui dirige le Media Forensic Lab de l'Université de Buffalo.
La campagne frauduleuse de Le Creuset a probablement été créée à l'aide d'un service de synthèse vocale, a déclaré le Dr Lyu. De tels outils traduisent généralement un script en une voix générée par l'IA, qui peut ensuite être intégrée à des séquences vidéo existantes à l'aide de programmes de synchronisation labiale.
"Ces outils deviennent très accessibles de nos jours", a déclaré le Dr Lyu, qui a ajouté qu'il était possible de réaliser une "vidéo de qualité décente" en moins de 45 minutes. "Cela devient très facile, et c'est pourquoi nous en voyons davantage."
Des dizaines de publicités frauduleuses distinctes mais similaires de Le Creuset mettant en vedette Mme Swift - dont beaucoup ont été publiées ce mois-ci - étaient visibles à la fin de la semaine dernière sur la bibliothèque de publicités publique de Meta. (La société possède Facebook et Instagram.) La campagne a également été diffusée sur TikTok.
Les publicités renvoyaient les téléspectateurs vers des sites Web qui imitent des médias légitimes comme Food Network, qui présentaient de fausses nouvelles sur l'offre Le Creuset aux côtés de témoignages de clients fabriqués. Les participants ont été invités à payer des « frais d'expédition minimes de 9,96 $ » pour les ustensiles de cuisine. Ceux qui s’y conformaient devaient payer des frais mensuels cachés sans jamais recevoir les ustensiles de cuisine promis.
Certaines des fausses publicités de Le Creuset, comme celle imitant l'architecte d'intérieur Joanna Gaines, avaient un éclat trompeur de légitimité sur les réseaux sociaux grâce à des étiquettes les identifiant comme des publications sponsorisées ou comme provenant de comptes vérifiés.
En avril, le Better Business Bureau averti les consommateurs qui falsifient escroqueries à des célébrités réalisées avec l'IA étaient « plus convaincants que jamais ». Les victimes se retrouvaient souvent avec des accusations plus élevées que prévu et aucun signe du produit qu'elles avaient commandé. Des banquiers ont également signalé des tentatives d'escrocs visant à utiliser des deepfakes vocaux ou des répliques synthétiques de voix de personnes réelles. , pour commettre une fraude financière.
Au cours de l'année écoulée, plusieurs personnes connues ont se sont publiquement distancées de [annonces ](https://twitter.com/elonmusk/status/1529484675269414912?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1529484675269414912%7Ctwgr%5E0ae6c36af73baa0208dc63f7 1f6103373937e167%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.abc.net. au%2Fnews%2F2023-10-02%2Fai-tom-hanks-dental-plan-ad-scam%2F102924118) présentant leur ressemblance ou leur voix manipulée par l'IA.
Cet été, de fausses publicités se sont répandues en ligne, prétendant montrer le chanteur country Luke Combs faisant la promotion de bonbons amaigrissants recommandés par son collègue musicien country Lainey Wilson. Mme Wilson a publié une vidéo Instagram dénonçant les publicités, affirmant que "les gens feraient n'importe quoi pour gagner de l'argent". , même si ce sont des mensonges." Le manager de M. Combs, Chris Kappy, a également publié une vidéo Instagram niant toute implication dans la campagne gommeuse et accusant les étrangers entreprises d'utiliser l'intelligence artificielle pour reproduire l'image de M. Combs.
"Pour les autres managers, l'IA est une chose effrayante et ils l'utilisent contre nous", a-t-il écrit.
Un porte-parole de TikTok a déclaré que la [politique publicitaire](https://ads.tiktok.com/help/article/tiktok-advertising-policies-ad-creatives-landing-page-restricted-content?lang=en#anchor-9 de l'application ) exige que les annonceurs obtiennent le consentement pour "tout média synthétique contenant une personnalité publique", ajoutant que la norme communautaire de TikTok exige que les créateurs de divulguer « des supports synthétiques ou manipulés montrant des scènes réalistes ».
Meta a déclaré avoir pris des mesures contre les publicités qui enfreignaient ses politiques, qui interdisent les contenus utilisant des personnalités publiques de manière trompeuse pour essayer pour tromper les utilisateurs avec de l'argent. La société a déclaré qu'elle avait engagé des poursuites judiciaires contre certains auteurs de tels stratagèmes, mais a ajouté que les publicités malveillantes étaient souvent capables d'échapper aux systèmes d'évaluation de Meta en masquant leur contenu.
En l’absence de lois fédérales pour lutter contre l’IA. escroqueries, les législateurs ont proposé une législation qui viserait à limiter leurs dégâts. Deux projets de loi présentés au Congrès l'année dernière – le Deepfakes Accountability Act à la Chambre et le No Fakes Act au Sénat – exigeraient des garde-fous tels que des étiquettes de contenu ou l'autorisation d'utiliser la voix ou l'image de quelqu'un.
Au moins neuf États, dont la Californie, la Virginie, la Floride et Hawaï, ont des lois réglementant le contenu généré par l'IA.
Pour l’instant, Mme Swift continuera probablement à être un sujet populaire en matière d’IA. expérimentation. Des versions synthétiques de sa voix apparaissent régulièrement sur TikTok, interprétant des chansons qu'elle n'a jamais chantées, résonnant de manière colorée sur les critiques et servant de sonneries de téléphone. Une interview en anglais qu'elle a donnée en 2021 sur "Late Night With Seth Meyers" a été doublée avec un rendu artificiel de sa voix parlant le mandarin. Un site Web facture jusqu'à 20 dollars pour les messages vocaux personnalisés du « clone IA de Taylor Swift », promettant « que la voix que vous entendez est impossible à distinguer de la voix réelle ».