Incidents associés
Lorsqu'une station de radio polonaise financée par l'État a annulé une émission hebdomadaire qui proposait des interviews de metteurs en scène et d'écrivains de théâtre, l'animateur de l'émission s'est retiré en catimini, résigné aux réalités de l'industrie des médias, qui consistait à réduire les coûts et à s'éloigner des goûts de la culture intellectuelle.
Mais sa démission s'est transformée en colère fin octobre après que son ancien employeur, Off Radio Krakow, a diffusé ce qu'il a présenté comme une « interview unique » avec une icône de la culture polonaise, Wislawa Szymborska, lauréate du prix Nobel de littérature en 1996.
L'animateur radio licencié, Lukasz Zaleski, a déclaré qu'il aurait invité lui-même Mme Szymborska dans son émission matinale, mais ne l'a jamais fait pour une raison simple : elle est décédée en 2012.
La station a utilisé l'intelligence artificielle pour générer l'interview récente --- un exemple dramatique et, pour beaucoup, scandaleux de la technologie remplaçant les humains, même les morts.
M. Zaleski a concédé que la version générée par ordinateur de la voix distinctive de la poétesse était convaincante. "C'était très, très bien", a-t-il déclaré, mais "je suis allé à ses funérailles, donc je sais avec certitude qu'elle est morte".
La résurrection de la poétesse décédée grâce à la technologie faisait partie d'une expérience inédite menée par Off Radio Krakow, une branche du système de radiodiffusion publique polonais dans la ville de Cracovie, dans le sud du pays. L'objectif était de tester si l'IA pourrait relancer une station locale moribonde qui avait "presque zéro" auditeurs, selon le directeur de la radio publique de Cracovie.
La station a également prévu des interviews d'autres personnes décédées, dont Jozef Pilsudski, le dirigeant de la Pologne lorsque le pays a recouvré son indépendance en 1918.
La nouveauté et la tempête d'indignation publique ont contribué à renforcer l'audience d'Off Radio Krakow, qui, selon le directeur de Radio Krakow, est passée d'une poignée de personnes à 8 000 personnes du jour au lendemain après l'introduction de trois présentateurs de la génération Z générés par l'IA --- Emilia, 20 ans, Jakub, 22 ans, et Alex, 23 ans, dont chacun avait une photo et une biographie générées par ordinateur sur le site Web de la station](https://off.radiokrakow.pl/newsy/posluchaj-jak-brzmi-off-radio-krakow-tworzone-przy-udziale-narzedzi-sztucznej-inteligencji).
Mateusz Demski, un présentateur qui a perdu son emploi, a averti que « le cas d'Off Radio Krakow » était un « précédent dangereux qui nous touche tous ». Crédit... Maciek Nabrdalik pour le New York Times
« Je suis devenu un monstre destructeur d'emplois qui veut remplacer les vraies personnes par des avatars », a déclaré Mariusz Marcin Pulit, rédacteur en chef de Radio Krakow et des stations de niche opérant sous son égide, comme Off Radio Krakow.
Il a insisté sur le fait qu'il n'avait jamais eu l'intention de remplacer les gens par des machines, et que son seul objectif était de relancer Off Radio Krakow, de la rendre plus attrayante pour les jeunes auditeurs et de susciter le débat sur l'IA alors que le Parlement polonais discute d'une nouvelle législation visant à réglementer son utilisation.
La technologie utilisée pour générer la fausse interview de Mme Szymborska et d'autres programmes, a-t-il ajouté, ont été largement utilisés : ChatGPT d'Open AI, le logiciel de synthèse vocale développé par ElevenLabs, et les programmes de génération d'images de Leonardo.Ai.
Mais ses assurances n'ont rien fait pour calmer la colère du public --- et l'inquiétude que les humains soient éliminés du scénario.
Parmi ceux qui ont été indignés par l'expérience de M. Pulit se trouve Jaroslaw Juszkiewicz, un journaliste radio dont la voix a été utilisée pendant plus d'une décennie pour guider les conducteurs utilisant la version polonaise de Google Maps. Son remplacement par une voix métallique générée par ordinateur en 2020 a suscité la fureur sur les réseaux sociaux, incitant Google à rétablir M. Juszkiewicz, au moins pour un temps.
Il a récemment annoncé qu'il avait été de nouveau retiré de ses fonctions,](https://www.youtube.com/watch?v=Oee0hFJfihA&t=10s) déplorant que l'IA « balaye le monde du travail vocal humain comme un rouleau compresseur géant. Et je peux, avec ma propre voix humaine, dire, probablement pour la dernière fois : "Souris magnifiquement et dirige-toi vers le sud". »
Dans une publication sur Facebook, il a déclaré que l'utilisation de l'IA pour simuler une interview avec le lauréat du prix Nobel décédé l'avait laissé sans voix. « Si ce n'est pas une violation de l'éthique journalistique », a-t-il déclaré, « je ne sais pas ce que c'est. »
Le Conseil national de la radio et de la télévision, un organisme de régulation composé de partisans du précédent gouvernement de droite polonais, a critiqué M. Pulit, qui a été nommé par un nouveau gouvernement de centre-gauche formé en décembre. Il « élimine le facteur humain » et force les médias à obéir à des « ordres et idées contraires à l'éthique qui servent, par exemple, des intérêts strictement politiques », a écrit une membre du conseil, Marzena Paczuska, dans une lettre adressée au ministre de la Culture.
Un membre du gouvernement a également exprimé son inquiétude. Le ministre de la numérisation, Krzysztof Gawkowski, s'est plaint sur la plateforme de médias sociaux X que « bien que je sois un partisan du développement de l'IA, je pense que certaines limites sont de plus en plus franchies ». Il a ajouté : « L'utilisation généralisée de l'IA doit se faire pour les gens, pas contre eux ! »
Fatigué d'être accusé de vouloir rendre les humains superflus, M. Pulit, le directeur de Radio Cracovie, a récemment mis fin à son expérience d'IA.
« Nous sommes des pionniers, et le sort des pionniers peut être difficile », a-t-il déclaré dans un récent message aux membres du personnel annonçant la fin brutale des présentateurs d'IA et leur remplacement par de la musique créée et interprétée par des humains.
Parmi les IA Alex Szulc, un animateur qui n'existe pas et qui a été présenté comme un progressiste non binaire « plein d'engagement social », a été retiré de Off Radio Krakow. La biographie publiée sur le site Web de la station a ensuite été réécrite pour supprimer toute mention de l'orientation sexuelle de l'animateur après les plaintes furieuses des militants LGBTQ qui ont déclaré qu'ils avaient besoin d'une personne réelle pour parler en leur nom, et non d'une personne générée par ordinateur.
Emilia Nowak, l'« experte en culture pop » générée par ordinateur de la station, qui a mené l'« interview » avec le poète décédé, a également disparu. La station a d'abord annoncé la conversation comme s'il s'agissait d'une véritable interview, mais a ensuite précisé qu'elle avait été fabriquée par une machine.
Michal Rusinek, le directeur d'une fondation qui gère le patrimoine littéraire du défunt lauréat du prix Nobel, a déclaré qu'il avait autorisé Off Radio Krakow à utiliser la voix de Mme Szymborska pour le segment parce que la poète « avait le sens de l'humour et aurait trouvé cela drôle ».
Mais il a déclaré que l'interview était « horrible » et qu'elle avait mis dans la bouche de la poétesse des mots qu'elle n'aurait jamais utilisés, la faisant paraître « fade », « naïve » et « sans aucun intérêt ». Mais cela, a-t-il ajouté, était encourageant car « cela montre que l'IA ne fonctionne pas encore » aussi bien que les humains. « Si l'interview avait été vraiment bonne », a-t-il déclaré, « elle aurait été terrifiante ».
Felix Simon, l'auteur d'un rapport publié en février sur l'effet de l'IA sur le journalisme, a déclaré que l'expérience polonaise n'avait pas modifié son point de vue selon lequel la technologie « aide les travailleurs de l'information plutôt que de les remplacer ». Pour le moment, a-t-il ajouté, « il y a encore des raisons de croire qu'elle n'entraînera pas la grande perte d'emplois que certains craignent ».
Pour les nombreux Polonais qui critiquent le flirt de Off Radio Krakow avec l'IA, l'utilisation par la station de présentateurs générés par ordinateur, bien que désormais suspendue, a mis en évidence un danger grave et immédiat.
Une pétition en ligne rédigée par M. Zaleski, l'animateur de l'émission culturelle licencié, et Mateusz Demski, un autre présentateur qui a également perdu son emploi, a averti que « le cas d'Off Radio Krakow est un rappel important pour l'ensemble du secteur » et un « précédent dangereux qui nous touche tous ».
L'utilisation de présentateurs créés par l'IA, prévient la pétition, « ouvre la porte à un monde dans lequel les employés expérimentés associés depuis des années aux médias et les personnes employées dans les industries créatives seront remplacés par des machines ».
M. Pulit, le rédacteur en chef, a rejeté cette information comme étant une « fake news », soulignant qu'aucune des personnes qui avaient perdu leur emploi à la radio n'était un employé à temps plein.
M. Zaleski a déclaré que la plupart de ses revenus provenaient de son travail de metteur en scène de théâtre, il n'était donc pas particulièrement contrarié lorsqu'il a perdu son créneau hebdomadaire sur Off Radio Krakow, qui ne payait que 62 dollars par émission.
Mais il a déclaré qu'il était consterné d'avoir été remplacé par un substitut généré par une machine. « J'étais très en colère que de vraies discussions profondes et de vraies interviews avec de vraies personnes aient été remplacées par quelque chose de totalement faux. »