Incidents associés
Tom Hanks et Gayle King, co-animatrice de « CBS Mornings », ont averti séparément leurs abonnés sur les réseaux sociaux que des vidéos utilisant des ressemblances avec l'intelligence artificielle étaient utilisées pour des publicités frauduleuses.
« Les gens continuent de m'envoyer cette vidéo et de me poser des questions sur ce produit et je n'ai RIEN à voir avec cette entreprise », a écrit Mme King sur Instagram lundi, en joignant une vidéo qui, selon elle, avait été manipulée à partir d'un message légitime faisant la promotion de son émission de radio du 31 août.
Les images falsifiées, qu'elle a partagées avec les mots « Fake Video » imprimés dessus, montraient Mme King disant que ses messages directs « débordaient » et que les gens devraient « suivre le lien » pour en savoir plus sur son « secret » de perte de poids. »
"Je n'ai jamais entendu parler de ce produit ni l'ai utilisé !" elle a écrit. "S'il vous plaît, ne vous laissez pas berner par ces vidéos d'IA."
Il n’était pas immédiatement clair de quel produit de perte de poids la publicité faisait la promotion ni quelle entreprise en était derrière.
M. Hanks a émis un avertissement similaire samedi, affirmant qu'une publicité pour un régime de soins dentaires utilisant son image sans son consentement était frauduleuse et basée sur une version d'intelligence artificielle de lui.
"Méfiez-vous!!" il a écrit sur Instagram à propos d'une capture d'écran de l'annonce apparente. « Il y a une vidéo faisant la promotion d’un régime de soins dentaires avec une version IA de moi. Je n'ai rien à voir avec ça."
On ne savait pas quelle entreprise avait utilisé l’image de M. Hanks ni quels produits elle faisait la promotion. M. Hanks n'a pas identifié l'entreprise ni ne l'a mentionnée par son nom. Il n’y avait aucune trace de la vidéo sur les réseaux sociaux.
Les représentants de M. Hanks ont refusé de répondre lundi aux questions sur la publicité, notamment s'il envisageait d'intenter une action en justice ou s'il avait demandé que la publicité soit supprimée des réseaux sociaux.
Dans un e-mail, un porte-parole de Meta, la société mère d'Instagram, n'a pas commenté directement les publicités, mais a déclaré qu'il était « contraire à notre politique de diffuser des publicités qui utilisent des personnalités publiques de manière trompeuse afin d'essayer d'escroquer les gens avec de l'argent ». .»
"Nous avons consacré des ressources substantielles à la lutte contre ce type de publicités et avons considérablement amélioré notre application, notamment en suspendant et en supprimant les comptes, les pages et les publicités qui enfreignent nos politiques", a déclaré le porte-parole.
Christa Robinson, porte-parole de CBS News, a déclaré dans un e-mail que Mme King avait entendu parler de la vidéo à son effigie lorsque des amis avaient attiré son attention sur celle-ci. "Les représentants en son nom ont demandé à plusieurs reprises que la fausse vidéo soit retirée", a déclaré Mme Robinson.
Les avocats des sociétés de divertissement ont proposé un langage qui répond aux préoccupations des guildes concernant l’IA. et les anciens scripts que possèdent les studios. De même, le SAG-AFTRA, le syndicat représentant les acteurs hollywoodiens en grève depuis le 14 juillet, s'inquiète également du problème de l'IA. Il craint que la technologie puisse être utilisée pour créer des répliques numériques d’acteurs sans paiement ni approbation.
M. Hanks a parlé de l'utilisation de l'IA. longuement plus tôt cette année, quelques jours seulement avant le début de la grève des écrivains hollywoodiens. Il a déclaré sur « [Le podcast Adam Buxton](https://www.adam-buxton.co.uk/podcasts/lpbk8k9zbhx54zt-8yl8m-mdzjc-whmf8-2lwfg-emz92-cxnlh-ghwwh-r34cb-sfwnb-kmjcj-x8cgn -gzmzx-xfpt5-x6cma-d8lbc) » qu'il a utilisé pour la première fois une technologie similaire sur le film « Polar Express », sorti en 2004.
«Nous avons vu cela venir», a-t-il déclaré. «Nous avons vu qu'il y aurait cette capacité de prendre des zéros et des uns dans un ordinateur et de les transformer en visage et en personnage. Depuis lors, ce chiffre n’a été multiplié que par un milliard, et nous le constatons partout.
M. Hanks a déclaré que les guildes, les agences et les cabinets juridiques discutaient tous des ramifications juridiques d'un acteur revendiquant son visage et sa voix comme propriété intellectuelle.
Il a pensé qu'il pourrait proposer une série de films le mettant en vedette à 32 ans. « N’importe qui peut désormais se recréer à tout âge grâce à l’IA. ou une technologie profondément fausse », a-t-il déclaré.
"Je pourrais être renversé par un bus demain, et c'est tout, mais les performances peuvent continuer", a-t-il déclaré. « Et en dehors du fait que cela a été fait avec l’IA. ou deep-fake, rien ne vous dira que ce n'est pas moi et moi seul. Et cela aura un certain degré de qualité réaliste. C’est certes un défi artistique, mais c’est aussi un défi juridique.
Comme l’I.A. commence à prendre racine sous diverses formes, et à mesure que les entreprises commencent à l'expérimenter, des inquiétudes apparaissent quant à la façon dont [les données confidentielles pourraient être traitées](https://www.nytimes.com/2023/09/28/business/ibm-ai -data.html), l'exactitude des réponses générées par l'IA et comment la technologie [pourrait être exploitée par des criminels](https://www.nytimes.com/2023/08/30/business/voice-deepfakes-bank-scams .html).
Pour l’instant, il y a plus de questions que de réponses. Les experts politiques et les législateurs ont signalé cet été que les États-Unis étaient au début de ce qui allait très Le chemin vers la création de règles régissant l’IA sera probablement long et difficile.
Christine Hauser a contribué au reportage.