Problème 6151

Les avatars IA de personnes décédées – ou « deadbots » – apparaissent dans des contextes nouveaux et inattendus, y compris ceux où ils ont un pouvoir de persuasion.

Ils donnent des interviews pour plaider en faveur d'un durcissement des lois sur les armes à feu, comme lorsque la famille de Joaquin Oliver, victime de la fusillade de l'école Parkland en Floride en 2018, a créé un avatar IA à son effigie, coiffé d'un bonnet, et l'a fait parler au journaliste Jim Acosta en juillet. « Ce n'est qu'un outil de plaidoyer supplémentaire pour susciter l'urgence de faire changer les choses », a déclaré Manuel Oliver, le père de Joaquin, à NPR.

En mai, un avatar IA barbu de Chris Pelkey, victime d'un incident de rage au volant en Arizona, a publié une déclaration vidéo impactante (https://www.youtube.com/watch?v=cMs-_8etNts) lors de la condamnation de l'homme qui a tué Pelkey par balle. La famille de Pelkey a créé ce robot. « Je pense que c'était authentique », a déclaré le juge Todd Lang après avoir entendu la déclaration d'impact générée par l'IA. Il a ensuite prononcé la peine maximale. ### Pouvoir de persuasion

L'industrie de l'au-delà numérique, qui gère les actifs numériques d'une personne après son décès, devrait quadrupler sa taille pour atteindre près de 80 milliards de dollars au cours de la prochaine décennie. Cela inclut la création de robots morts. Plus ces robots deviennent immersifs, plus les entreprises technologiques explorent leur potentiel commercial, suscitant l'inquiétude au sein de la communauté scientifique et ailleurs.

« Le robot mort est un argument puissant, car il exploite toute cette nostalgie et cette vulnérabilité émotionnelles », a déclaré la dessinatrice Amy Kurzweil du New Yorker. L'œuvre de Kurzweil explore fréquemment des sujets technologiques, notamment son livre Artificial: A Love Story, paru en 2023. Ce mémoire graphique raconte comment elle et son père, l'inventeur et futurologue Ray Kurzweil, ont créé en 2018 un chatbot textuel représentant son grand-père décédé, à partir de documents écrits provenant de ses archives. « J'avais l'impression d'être en communion avec sa présence », a-t-elle déclaré.

Kurzweil a déclaré que des robots morts plus immersifs, basés sur la voix et la vidéo, pourraient avoir un pouvoir de persuasion encore plus puissant. « C'est un peu comme un film en réalité virtuelle ou en 3D, plutôt qu'une image granuleuse et en noir et blanc », a-t-elle expliqué. « Et cela peut donc être plus percutant. »

Dangers potentiels

Les chercheurs avertissent désormais que l'utilisation commerciale est la prochaine étape pour les robots morts. « Bien sûr, cela sera monétisé », a déclaré James Hutson, chercheur en IA à l'Université Lindenwood. Hutson est coauteur de plusieurs études sur les deadbots, dont une explorant l'éthique de l'utilisation de l'IA pour réanimer les morts.

Les travaux de Hutson, ainsi que d'autres études récentes, comme une de l'Université de Cambridge, qui examine la probabilité que des entreprises utilisent des deadbots pour promouvoir leurs produits auprès des utilisateurs, soulignent les dangers potentiels de telles utilisations. « Le problème, c'est que cela soit perçu comme de l'exploitation, n'est-ce pas ? », a déclaré Hutson.

Mais Hutson affirme que le public américain a néanmoins été préparé à accepter la possibilité de recevoir des publicités via des robots morts. « Ce qui peut paraître très grossier et horrifiant aujourd'hui ne paraîtra plus aussi farfelu ni inapproprié une fois normalisé et courant », a-t-il déclaré.

Hutson a notamment expliqué que les personnes décédées faisaient la promotion de produits à l'écran depuis des décennies. Un Fred Astaire manipulé numériquement se promenait dans des publicités pour aspirateurs dans les années 1990.

D'autre part, a déclaré Hutson, il n'a pas fallu longtemps aux consommateurs pour accepter à contrecœur les publicités dans le cadre de leurs abonnements payants à des services de streaming comme Hulu et Netflix. Alors pourquoi pas aussi les deadbots financés par la publicité ? (Les entreprises de deadbots comme Hereafter et Project December monétisent actuellement leurs produits via des abonnements payants ou en facturant des frais initiaux.)

Problèmes juridiques, éthiques et moraux

Avant que la publicité par deadbots puisse décoller, il reste des aspects juridiques à régler. « Aux États-Unis, nous sommes confrontés à des difficultés concernant le droit à la vie privée des vivants, sans parler de celui des défunts », a déclaré Jeffrey Rosenthal, avocat à Philadelphie spécialisé en technologie et confidentialité au sein du cabinet Blank Rome LLP.

Il n'existe pas de loi fédérale exhaustive régissant l'utilisation de l'IA aux États-Unis. (L'Union européenne dispose d'une législation qui vise à encadrer l'utilisation de l'IA, mais qui ne précise pas les « deadbots ».)

Les États-Unis disposent d'un ensemble disparate de lois étatiques qui reconnaissent le droit d'une personne à protéger l'utilisation commerciale de son nom, de son image, de sa voix et d'autres caractéristiques permettant de l'identifier, même après son décès. Mais Rosenthal a déclaré que le cadre juridique actuel est, dans l'ensemble, mal adapté pour gérer les préjudices qui pourraient résulter, par exemple, d'une grand-mère « deadbot » diffusant des publicités auprès de sa famille.

« Qui est responsable ? » a demandé Rosenthal. « L'entreprise de logiciels qui a développé la grand-mère « deadbot » ? L'agence de publicité qui a inséré sa publicité ? L'entreprise qui détient la propriété intellectuelle ? De nombreuses manières différentes pourraient rendre floue la définition de ce que la loi prévoit, et ensuite, séparément, de ce que la société considère comme éthique et moral. »

Les créateurs de « deadbots » et les agences de publicité numérique interrogées par NPR pour cet article se disent révoltés par les implications éthiques et morales de l'utilisation de « deadbots » pour vendre des produits.

« D'un point de vue éthique, je pense que l'utilisation de personnes décédées est totalement inadéquate », a déclaré Camille Chiang, responsable du contenu pour NEX, une entreprise de marketing d'IA qui développe actuellement des avatars IA pour une équipe de basket-ball professionnelle, destinés à des campagnes publicitaires. Sauf qu'ils travaillent avec des athlètes vivants, et non des athlètes décédés.

« Pourquoi voudrais-je que ma grand-mère dise quelque chose qui ne soit pas authentique ? » a déclaré Alex Quinn, PDG d'Authentic Interactions Incorporated, la société mère du créateur de deadbots StoryFile. « Cela me rebuterait vraiment en tant que consommateur. Et je ne pense pas que cela nous garantisse une bonne réputation. »

Mais Quinn a déclaré être « absolument intéressé » par d'autres moyens de rendre les deadbots plus accessibles à la publicité. Un scénario pourrait consister à insérer des publicités interstitielles dans les conversations des utilisateurs avec les deadbots, à l'instar des pauses publicitaires traditionnelles des émissions de télévision.

Un autre scénario pourrait consister à ce que le deadbot recueille les mentions « J'aime » et « Je n'aime pas » des personnes vivantes, ce qui pourrait être utile aux annonceurs. « Nous pouvons demander à ces avatars de rechercher des informations », a déclaré Quinn. « Vous savez, quel est votre athlète préféré ? Quels maillots pourraient vous intéresser ? »

Quinn a déclaré que les entreprises vont tenter de rentabiliser au maximum les avatars IA, vivants comme morts, et il reconnaît qu'il pourrait y avoir des acteurs malveillants. « Les entreprises testent déjà des solutions en interne pour ces cas d'utilisation », a-t-il ajouté, faisant référence à des cas d'utilisation tels que les publicités mettant en vedette des célébrités vivantes créées grâce à l'IA générative et avec lesquelles les utilisateurs peuvent interagir. « Nous n'avons simplement pas encore vu beaucoup de mises en œuvre. »