Incidents associés
Lorsque DeAndrea Salvador a commencé à recevoir des courriels en provenance du Brésil en juin, la sénatrice de Caroline du Nord a d'abord pensé à une tentative d'hameçonnage. Ces courriels, adressés d'abord à son bureau au Sénat puis à sa campagne, avaient pour objet des phrases comme « Est-ce vous ? » et « Manipulation de l'IA ».
Mais après avoir reçu un courriel d'un journaliste l'interrogeant sur une vidéo circulant en ligne, elle a décidé d'enquêter.
Mme Salvador a recherché son nom sur Internet et a découvert qu'un extrait d'une conférence TED de 2018, où elle expliquait comment réduire les coûts énergétiques pour les Américains à faibles revenus, avait été utilisé dans une vidéo primée pour promouvoir les produits Whirlpool au Brésil.
Dans cette conférence TED, Mme Salvador raconte que, durant son enfance, certains de ses voisins se branchaient illégalement sur le réseau électrique pour se chauffer en hiver et se rafraîchir en été. Elle a ensuite présenté des diapositives contenant des données montrant comment des millions de familles américaines, notamment dans les communautés noires et rurales, sont contraintes de choisir entre payer leurs factures d'électricité et se procurer des produits de première nécessité comme des médicaments et de la nourriture.
Mais dans un extrait de 20 secondes (https://vimeo.com/1094426146) apparu dans la vidéo de Whirlpool, Salvador semble parler des habitants à faibles revenus de São Paulo, la ville la plus peuplée du Brésil, un monde à part de son travail sur cette problématique en Caroline du Nord, son État d'origine. Outre le fait qu'elle ait modifié ses propos, la vidéo altère également ses diapositives pour afficher des données concernant São Paulo.
Dans les deux vidéos, Salvador apparaît sur la scène de TED vêtue d'un blazer vert d'eau, d'un pantalon gris et de chaussures à petits talons. Mais sa voix a été modifiée.
Lors de sa conférence TED, elle a déclaré : « Les gens sont confrontés à des choix impossibles. Aux États-Unis, l’Américain moyen consacre 3 % de son revenu à l’énergie. À l’inverse, les populations à faibles revenus et les populations rurales peuvent y consacrer jusqu’à 20, voire 30 % de leurs revenus. »
Dans la publicité Whirlpool, elle semble dire : « Les gens sont confrontés à des choix impossibles. Dans les quartiers défavorisés de São Paulo, la facture d’électricité représente en moyenne 30 % du revenu mensuel. »
La vidéo enchaîne ensuite sur une phrase qu’elle a prononcée plus tard dans son intervention : « C’est à ce moment-là que l’énergie devient un fardeau. »
« J’étais vraiment choquée », a déclaré Salvador, 34 ans, qui a fondé une association à but non lucratif visant à réduire les coûts énergétiques pour les personnes à faibles revenus avant de devenir, en 2021, la plus jeune femme jamais élue à l’Assemblée législative de Caroline du Nord.
« Ils m'ont instrumentalisée comme une figure d'autorité et ont fait de moi une porte-parole de Whirlpool. Je ne sais même pas si ce qu'ils me font dire est vrai », a-t-elle déclaré. « Ce qui me désole, c'est que si personne ne s'était manifesté, je n'aurais jamais su que cette vidéo existait. »
Salvador a porté plainte devant un tribunal fédéral de Caroline du Nord contre Whirlpool, Omnicom Group (la société de marketing internationale qui a créé la vidéo) et leurs filiales pour utilisation non autorisée de son image. La vidéo, toujours disponible en ligne, risque de nuire à sa réputation de parlementaire et de militante pour l'accès à une énergie abordable, argumente-t-elle dans sa plainte.
La manipulation par l'IA est probablement bien plus courante qu'on ne le pense et peut être difficile à détecter, explique Andrea Hickerson, doyenne de l'école de journalisme de l'Université du Mississippi.
« Taylor Swift peut organiser une conférence de presse ou publier un message sur Instagram et dire : "Ce n'est pas moi" », ajoute Hickerson, qui étudie l'impact des contenus générés par l'IA sur le paysage médiatique. Mais peu de gens savent à quoi ressemblent les dirigeants économiques et d'entreprise, ce qui en fait des cibles faciles pour la manipulation par l'IA, a-t-elle déclaré.
Lorsque Salvador a visionné la vidéo, intitulée « Un moyen efficace de payer », celle-ci avait déjà remporté deux prix au Festival international de la créativité Cannes Lions, en France. Parfois surnommés les Oscars de la publicité, ces prix comptent parmi les récompenses les plus prestigieuses du secteur du marketing.
La vidéo, créée par DM9, filiale du groupe Omnicom basée à São Paulo, pour Consul, la branche brésilienne de Whirlpool, explique comment les Brésiliens à faibles revenus peuvent financer l'achat d'appareils électroménagers Whirlpool économes en énergie grâce aux économies réalisées sur leurs futures factures d'électricité. À Cannes Lions, le jury a décerné deux prix à DM9 et Consul pour cette vidéo de deux minutes : le Grand Prix, leur plus haute distinction, dans la catégorie « Données créatives », ainsi qu'un Lion de Bronze dans la catégorie « Commerce créatif ».
Après Cannes, la vidéo a commencé à susciter l'attention – et des interrogations – quant à son contenu. CNN Brésil a porté plainte contre Whirlpool et l'agence de publicité après avoir découvert que la vidéo contenait également des extraits manipulés d'une émission de CNN Brésil.
Un porte-parole de Whirlpool a déclaré que les responsables de l'entreprise n'étaient pas au courant de la modification des propos de la sénatrice Salvador et l'ont contactée peu après avoir été informés du problème à Cannes.
Omnicom n'a pas répondu aux demandes de commentaires, mais sa filiale a reconnu sur LinkedIn avoir utilisé l'intelligence artificielle pour modifier la vidéo de Whirlpool et d'autres. DM9 présente ses excuses « sans réserve au Festival international de la créativité Cannes Lions, aux jurés qui ont consacré du temps et de l'attention à l'évaluation de son travail, et à l'ensemble du secteur », indique le communiqué.
DM9 a restitué les Lions de Cannes remportés pour trois de ses créations, dont le spot publicitaire Whirlpool, en raison de « graves incohérences concernant la véracité ou la légitimité des œuvres présentées ».
Omnicom et Whirlpool ont demandé le rejet de la plainte de Salvador, arguant que sa réputation n'avait pas été significativement affectée par la vidéo. En réponse à la plainte de Salvador, DM9 a déclaré que la vidéo n'avait jamais été diffusée au Brésil et que les modifications apportées par l'IA avaient été effectuées par un petit nombre d'employés.
Derek Leben, professeur d'éthique des affaires à la Tepper School of Business de l'Université Carnegie Mellon, a déclaré que la vidéo pourrait être un exemple d'IA parallèle, où des employés et des entreprises externes utilisent l'intelligence artificielle sans l'approbation de leurs supérieurs.
Les grandes entreprises comme Whirlpool devraient vérifier l'origine des vidéos, images et données fournies par les agences de publicité et autres entreprises avec lesquelles elles collaborent, a déclaré Leben. « Je doute qu'une loi oblige à divulguer l'utilisation de l'IA générative pour la création de contenus médiatiques dans un avenir proche, mais j'espère que les entreprises exigeront une certaine transparence de la part de leurs partenaires », a-t-il ajouté.
Mais cette technologie est largement accessible, ce qui rend difficile de se protéger des deepfakes, explique Hany Farid, professeur d'informatique à l'Université de Californie à Berkeley. « Toute personne ayant des images d'elle-même en ligne – une simple image, une courte vidéo, un extrait audio – peut voir son image extraite, et des personnes peuvent ensuite créer des enregistrements audio, vidéo et des images la montrant dire ou faire des choses qu'elle n'a jamais faites », précise Farid.
Avant même de prendre connaissance de la vidéo, Salvador confie s'être déjà inquiétée des problèmes de confidentialité liés à l'essor de l'intelligence artificielle. Elle n'est pas opposée à son utilisation, explique-t-elle, soulignant qu'elle vient de terminer un MBA et un séjour de recherche au Massachusetts Institute of Technology (MIT), où elle a travaillé sur une technologie utilisant l'IA pour faciliter la mobilité des personnes âgées.
« Je ne pense pas que ce soit un jeu à somme nulle », affirme Salvador, membre du Conseil national des politiques énergétiques, un groupe de responsables d'État travaillant sur les politiques énergétiques. « Nous assistons à des innovations rapides susceptibles d'améliorer la qualité de vie, mais je pense que toute technologie doit être encadrée par des garde-fous. »
Elle a passé des semaines à écumer Internet à la recherche des vidéos manipulées de sa conférence TED et à tenter de les faire retirer.
« J'hésite désormais à accepter une conférence si une vidéo est prévue », a-t-elle déclaré.