Incidents associés
Lundi, une co-animatrice de "CBS Mornings" a averti des milliers d'abonnés sur les réseaux sociaux qu'une image d'elle rendue par l'IA faisait faussement la promotion d'un produit avec lequel elle n'avait aucun lien. Un jour plus tôt, un acteur oscarisé a dit aux gens de « se méfier » d’une image de lui-même circulant sur Internet. Le même jour, une star de YouTube comptant 188 millions d'abonnés a déclaré que le contenu trafiqué par l'IA tentait de se faire passer pour une "arnaque" en utilisant son image.
Les trois célébrités - très suivies dans leurs domaines respectifs - ont entamé une semaine de réactions très médiatisées aux images modifiées par l'IA qui soulignent la controverse croissante concernant l'utilisation de l'intelligence artificielle et sa capacité à reproduire l'image des gens, quelle que soit leur identité. consentement.
Gayle King de CBS News publié un avertissement à Instagram lundi, partageant un extrait d'une vidéo utilisant son image pour une prétendue perte de poids produit.
"Les gens continuent de m'envoyer cette vidéo et de me poser des questions sur ce produit et je n'ai RIEN à voir avec cette entreprise", a écrit King, en tamponnant les mots "fausse vidéo" sur sa représentation IA. "Je n'ai jamais entendu parler de ce produit ni l'ai utilisé ! Ne vous laissez pas berner par ces vidéos d'IA."
Les représentants de King "ont demandé à plusieurs reprises que la fausse vidéo soit retirée", a déclaré Samantha Graham, porte-parole de CBS News. "Gayle en a été informée par des amis qui l'ont contactée à ce sujet."
Dimanche, Tom Hanks, lauréat d'un Oscar, a mis en garde ses 9,5 millions de followers contre une arnaque similaire.
"Il y a une vidéo faisant la promotion d'un régime de soins dentaires avec une version IA de moi. Je n'ai rien à voir avec ça", Hanks publié sur Instagram.
On ne sait pas exactement quelles entités se cachent derrière les deepfakes, ou de fausses images prétendant être réelles, qui présentaient des images falsifiées de King et Hanks. Les représentants de Hanks ont refusé de répondre aux questions du Washington Post. Son message ne nommait pas la prétendue entreprise dentaire qui représentait son portrait, et il n'a pas partagé la vidéo. Le message de King montrait un logo pour "Artipet", pour lequel une recherche sur le Web a montré peu de présence en ligne mardi soir.
Les conversations, les recours juridiques et les réglementations autour de la technologie restent flous, avec peu de lois concrètes [aux États-Unis](https://www.washingtonpost.com/technology/2023/07/26/ai-regulation-created-google- openai-microsoft/?itid=lk_inline_manual_16) ou dans le monde entier ciblant le contenu non autorisé généré par l'IA.
De nombreuses entreprises repensent ou réduisent la recherche éthique sur l'IA, souvent dans le cadre de une réduction plus large des coûts, alors même que les nouvelles applications de la technologie sont en plein essor. Certaines écoles ont interdit l'accès à ChatGPT, un robot IA capable de générer des réponses. ou des réponses aux travaux scolaires des élèves en quelques instants. Les images d'IA telles que celles évoquées par Hanks et King sont [deviennent plus difficiles](https://www.washingtonpost.com/technology/2023/08/29/google-wants-watermark-ai-generated-images-stop-deepfakes /?itid=lk_inline_manual_17) pour se distinguer des vrais à mesure que les entreprises technologiques améliorent leurs produits d'IA, laissant place à la désinformation – dans le cas de ces célébrités, de fausses publicités. La technologie pourrait créer des emplois également auprès de groupes déjà défavorisés.
C'est également un point de friction à Hollywood. L'utilisation de l'IA fait partie des problèmes sur le table de négociation entre la Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) et les grands studios hollywoodiens. Le syndicat des acteurs reste en grève depuis des mois contre les studios, même après que la Writers Guild of America a récemment mis fin à sa grève.
SAG-AFTRA recherche des protections pour ses membres pour ne pas avoir leur ressemblance , voix ou performances utilisées sans leur consentement ou sans rémunération. Dans une FAQ sur l'autorisation de grève, le syndicat [a déclaré ](https://www.washingtonpost.com/arts-entertainment/2023/07/13/why-actors-writers-strike-sag-wga-issues/?itid =lk_inline_manual_22)La capacité de l'IA à imiter ces expressions créatives constitue une « menace réelle et immédiate pour le travail de nos membres ». La guilde souhaite également empêcher les studios de pouvoir entraîner l'IA à créer des performances à partir du travail existant d'un acteur.
Hanks a également exprimé ses inquiétudes concernant la technologie. Dans une [interview](https://www.adam-buxton.co.uk/podcasts/lpbk8k9zbhx54zt-8yl8m-mdzjc-whmf8-2lwfg-emz92-cxnlh-ghwwh-r34cb-sfwnb-kmjcj-x8cgn-gzmzx-xfpt5- x6cma-d8lbc) avec le podcast Adam Buxton cette année, l'acteur a déclaré que l'IA permettait à de fausses versions d'acteurs de proliférer --- et que, si elle était autorisée, le public pourrait ne pas le savoir ou s'en soucier.
"En ce moment, si je le voulais, je pourrais me réunir et proposer une série de sept films dans lesquels je serais vedette et dans lesquels j'aurais 32 ans, d'ici à ce que le royaume vienne. N'importe qui peut désormais se recréer à tout âge. ils le font via l'IA ou la technologie deepfake", a déclaré Hanks à Buxton.
"Je pourrais être heurté par un bus demain, et c'est tout, mais les performances peuvent continuer encore et encore. Et en dehors de la compréhension que cela a été fait avec l'IA ou le deepfake, rien ne vous dira que c'est pas moi", a-t-il déclaré. "C'est certainement un défi artistique, mais c'est aussi un défi juridique."
"Nous avons vu cela venir. Nous avons vu qu'il y aurait cette capacité de prendre des zéros et des uns dans un ordinateur et de les transformer en un visage et un personnage. Maintenant, cela n'a fait que croître d'un milliard depuis lors, et nous le voyons partout, " Hanks a ajouté. "Je peux vous dire qu'il y a des discussions en cours dans toutes les guildes, toutes les agences et tous les cabinets juridiques pour déterminer les ramifications juridiques de mon visage et de ma voix – et de celles de tous les autres – -- étant notre propriété intellectuelle."
Au-delà d’Hollywood, les stars des médias sociaux dénoncent la technologie pour ses impacts douteux.
La star de YouTube MrBeast, de son vrai nom Jimmy Donaldson, partagé une vidéo de lui-même générée par l'IA dimanche. Comme celles de King et Hanks, la vidéo montrait un faux Donaldson, qui compte 188 millions de followers sur YouTube, faisant des affirmations que le vrai Donaldson n'approuve pas.
Il a qualifié cela de « publicité frauduleuse et profondément fausse ».
"Si vous regardez cette vidéo, vous faites partie des 10 000 chanceux qui recevront un iPhone 15 Pro pour seulement 2 $", indique la publicité vidéo aux téléspectateurs. "Je m'appelle MrBeast et j'organise le plus grand cadeau iPhone 15 au monde. Cliquez sur le lien ci-dessous pour réclamer le vôtre maintenant."
Donaldson a critiqué la vidéo basée sur TikTok sur X, l'un des nombreux sites qui ont [en difficulté](https://www.washingtonpost.com/technology/2023/08/29/google-wants-watermark-ai-generated-images- stop-deepfakes/?itid=lk_inline_manual_36) au fil des années pour contenir de telles informations erronées. « Les plateformes de médias sociaux sont-elles prêtes à faire face à la montée des deepfakes basés sur l'IA ? Il a demandé. "Ceci est un sérieux problème."