Incidents associés
Malgré la législation récemment signée en Californie, les deepfakes de célébrités grâce à l'intelligence artificielle sont plus répandus que jamais.
L'une des vidéos les plus récentes est celle de Jennifer Aniston apparue sur Facebook, dans laquelle on la voit parler de sa « silhouette en bikini même à 50 ans » et faire la promotion de compléments de collagène qui sont la raison pour laquelle « mon corps ne retient pas la graisse », selon US Weekly.
La vidéo a été supprimée, mais les fans l'ont remise en question et l'ont envoyée à l'influenceur fitness Ben Carpenter, qui a examiné la vidéo.
Il a déterminé que le clip initialement vu dans la fausse publicité provenait en fait d'une table ronde d'interviews du Hollywood Reporter avec d'autres stars, dont Nicole Kidman et Naomi Watts.
"Vous pouvez voir que le langage corporel correspond. Pendant cet extrait de la vidéo, elle parlait en fait de son jeu d'actrice, rien à voir avec son "corps en bikini"", note Carpenter dans la légende de son post Instagram à ce sujet.
Il a poursuivi : "Une fois de plus, c'est un autre avertissement qui nous montre de quoi l'IA est capable. Il va devenir de plus en plus difficile de déterminer quelles vidéos sont authentiques et lesquelles ne le sont pas".
Les représentants d'Aniston n'ont pas immédiatement répondu à la demande de commentaires de Fox News Digital.
Rob Rosenberg, fondateur et directeur de Telluride Legal Strategies, a convenu que "de toute évidence, la vidéo était un faux".
"Je pense que les fans de Jennifer Aniston, s'ils examinent la vidéo, se rendront probablement compte que ce n'est pas authentique. Il y a des moments où les lèvres ne sont pas synchronisées avec l'audio, et aussi, je suppose que s'ils étaient des fans, ils pourraient être familiers avec la table ronde à laquelle elle participait auparavant", a-t-il déclaré.
L'experte en intelligence artificielle Marva Bailer a convenu que les fans sont susceptibles de remettre en question une vidéo comme celle partagée, d'autant plus qu'Aniston ne fait pas beaucoup de médias sociaux.
"Jennifer a rejoint Instagram en 2019, et elle a en fait établi un record du monde car elle a eu un million d'abonnés en cinq heures. Mais si vous regardez son Instagram, même avec ses relations publiques, elle a moins de 200 publications. Instagram n'est donc pas vraiment le moyen par lequel elle communique avec son public", a-t-elle déclaré. "Ainsi, même si nous voyons une publicité dans laquelle elle fait la promotion d'un produit sur Instagram, notre sens de l'araignée apparaît immédiatement, car ce n'est pas ainsi qu'elle communique avec son public".
Aniston est loin d'être la première célébrité à voir son image utilisée dans une publicité créée par l'IA. Des stars comme Tom Hanks, Taylor Swift, Scarlett Johansson et d'autres ont toutes dû faire face à cette technologie.
"J'ai vu cela décrit comme un grand jeu de taupe", a déclaré Rosenberg.
« Il est certain que vous devez rester vigilant et retirer ces choses là où vous les repérez. Toutes les plateformes, une fois qu’elles sont informées que ce n’est pas authentique, que ce n’est pas autorisé, sont obligées de retirer la vidéo. Mais évidemment, il vous incombe, à vous et à votre représentant, de garder un œil sur ce genre de choses et de les arrêter le plus tôt possible. Dans ce cas, je suis vraiment choqué qu’il ait fallu un million de vues ou quelque chose comme ça avant que quelqu’un ne le signale comme non authentique », a-t-il poursuivi.
Selon le post de Carpenter, le clip d’Aniston avait été vu plus de 700 000 fois lorsqu’il l’a signalé.
« Ce qui a changé à l’ère de l’IA, ce sont ces outils, ces outils numériques qui sont devenus beaucoup plus accessibles aux personnes avec un accès très faible ou gratuit. Alors qu’avant, il fallait une conception assistée par ordinateur compliquée ou des agences ou des logiciels très coûteux et compliqués », a expliqué Bailer. « Les gens se disent : « Hé, je peux juste faire une publicité » (https://www.foxnews.com/entertainment/taylor-swift-fake-ai-ad-dupes-fans) et ce n'est pas acceptable et les stars cherchent maintenant à les trouver. »
« J'ai vu cela décrit comme un grand jeu de taupe. »
— Rob Rosenberg, fondateur et directeur de Telluride Legal Strategies
Elle a poursuivi : « Un autre domaine qui est très intéressant à observer est la législation. La législation ne s'applique plus seulement au créateur ou à l'employé, mais à l'ensemble de l'écosystème. Et cela signifie qu'il faut examiner l'entreprise potentielle qui diffuse l'application ou le fournisseur qui possède l'application ou même les médias pour vous atteindre. Et cela va être très, très difficile à poursuivre et à traquer. Mais cela va coûter cher s'ils sont trouvés. »
Des lois sont en cours d’élaboration au Tennessee et maintenant en Californie, avec deux projets de loi récemment signés en septembre.
Le 17 septembre, le gouverneur de Californie Gavin Newsom a apposé sa signature sur deux projets de loi soutenus par le syndicat des acteurs, SAG-AFTRA, qui offrent une protection pour les portraits des acteurs, vivants et morts – AB 1836, qui restreint l’utilisation de l’IA pour créer des répliques numériques d’artistes décédés sans le consentement de leurs héritiers, et AB 2602, qui augmente les exigences de consentement des artistes vivants pour les répliques d’IA.
« Nous continuons à patauger dans un territoire inexploré en ce qui concerne la façon dont l’IA et les médias numériques transforment l’industrie du divertissement, mais notre étoile du Nord a toujours été de protéger les travailleurs. Cette législation garantit que l’industrie peut continuer à prospérer tout en renforçant les protections pour les travailleurs et la façon dont leur portrait peut ou non être utilisé », a déclaré Newsom dans un communiqué.
« C'est un jour mémorable pour les membres de la SAG-AFTRA et pour tous les autres, car les protections de l'IA pour lesquelles nous nous sommes battus si durement l'année dernière sont désormais étendues par la loi californienne grâce au pouvoir législatif et au gouverneur Gavin Newsom », a déclaré la présidente de la SAG-AFTRA, Fran Drescher. « On dit que la nation va comme va la Californie. »
Plus tard en septembre, Newsom a opposé son veto à un autre projet de loi, le SB 1047, qui avait également le soutien de la SAG-AFTRA.
Selon l'Associated Press, le veto du gouverneur constitue un revers majeur pour les tentatives de créer des garde-fous autour de l'IA et de son évolution rapide avec peu de surveillance.
« Bien que bien intentionné, le projet de loi SB 1047 ne tient pas compte du fait qu'un système d'IA soit déployé dans des environnements à haut risque, implique une prise de décision critique ou l'utilisation de données sensibles », a déclaré Newsom dans un communiqué. « Au lieu de cela, le projet de loi applique des normes strictes même aux fonctions les plus élémentaires - tant qu'un grand système le déploie. Je ne pense pas que ce soit la meilleure approche pour protéger le public des menaces réelles posées par la technologie. »
« Je donnerai beaucoup de crédit à la Californie pour avoir été assez agressive dans l'adoption d'une législation sur l'IA et les informations trompeuses fournies aux consommateurs », a déclaré Rosenberg. « Je pense qu'ils mènent vraiment la charge en essayant de comprendre comment nous pouvons protéger les consommateurs des malentendus qui pourraient survenir suite à l'utilisation de cette technologie. »
En ce qui concerne le projet de loi qui a été rejeté, il a ajouté : « Le gouverneur Newsom est le gouverneur d'un État où, d'un côté, vous avez le centre de l'industrie du divertissement et Hollywood. Et de l'autre côté, je pense que 32 des 50 meilleurs développeurs d'IA au monde se trouvent également dans son État. Il essaie donc de trouver un équilibre entre les intérêts concurrents au sein de son État. Il veut évidemment que les gens, ces entreprises, y restent. Il veut qu'elles continuent à se développer, qu'elles apportent des investissements, tout ce genre de choses. Et je pense que c'est ce que nous avons vu avec ce projet de loi particulier, qu'il essaie de montrer la voie dans tant de projets de loi qui ont été transformés en loi. Mais en même temps, il ne veut pas étouffer l'innovation, il cherche un moyen de donner aux gens la possibilité de comprendre toutes les bonnes utilisations de cette technologie tout en gardant un œil sur les mauvaises utilisations. »
La clé pour gérer cette situation, tant pour les célébrités que pour le citoyen moyen, sera la vigilance.
« La législation ne mettra pas fin aux publicités non autorisées depuis l'ère du numérique », a déclaré Bailer. « Il y aura des créateurs qui mettront en ligne ce qu'ils veulent, que ce soit pour le plaisir, pour le profit ou pour nuire. Et c'est aux autorités. C'est aux fans et aux relations publiques de vraiment essayer de trouver ces personnes et de les arrêter à nouveau, là où cela a du sens. Et c'est ce que nous devons examiner. Où sont nos priorités et où concentrons-nous notre attention ? Parce que parfois, lorsque nous concentrons notre attention sur les bons méchants, nous passons à côté des bons. Mais les gens feront ce qu'ils veulent faire parce que c'est ce qui fait de nous des êtres humains. »
« Comme toute loi, son efficacité dépend de son application. Et je pense que cela dépend de la vigilance des législateurs et des forces de l’ordre dans leurs poursuites contre les gens, car si j’étais Jennifer Aniston dans cette affaire, je pourrais certainement intenter une action privée contre les gens si je pouvais découvrir qui ils sont », a déclaré Rosenberg. « Mais même une fois que la législation sera promulguée, la question est simplement de savoir si les gouvernements et les forces de l’ordre appliqueront réellement ces lois et dans quelle mesure.
Il a ajouté : « Ce n’est pas une mode. Ce n’est pas un battage médiatique. Cela arrive. Et, vous savez, cela va simplement devenir de plus en plus répandu dans les affaires et dans la vie. Vous savez, cela va toucher tout ce que nous faisons. Je pense que nous apprenons simplement au fur et à mesure. »