Incidents associés
Une doubleuse affirme que ses données vocales sont utilisées sans son autorisation par le nouveau système d'annonces de train IA de ScotRail. Elle se sent « violée » et n'a aucun contrôle.
L'opérateur ferroviaire public a récemment déployé « Iona », une voix IA sur certaines lignes, remplaçant ainsi les anciens messages enregistrés par un humain.
L'actrice et doubleuse écossaise renommée Gayanne Potter a toutefois affirmé qu'Iona était basée sur des enregistrements qu'elle avait réalisés en 2021.
Dans une publication largement partagée sur Facebook, Mme Potter a déclaré que ScotRail avait balayé ses inquiétudes et avait demandé à l'entreprise : « Pourquoi continuer à choisir une version IA de moi-même, aussi horrible soit-elle, alors que je suis là ? »
L'actrice a déclaré être en litige avec ReadSpeaker, une société suédoise, au sujet de l'utilisation de ses données vocales suite aux enregistrements qu'elle avait réalisés pour eux en 2021.
Elle allègue que ces enregistrements ont été réalisés pour fournir une synthèse vocale à des fins de traduction, et que leur utilisation ultérieure dans un modèle d'IA appelé « Iona » a outrepassé leur accord.
Cependant, ReadSpeaker affirme avoir un contrat pour utiliser sa voix et que son équipe juridique a répondu « completement » à ses préoccupations.
Le message de Mme Potter disait : « J’ai contacté l’entreprise et exprimé mon désarroi, car cela était très éloigné de ce que je pensais avoir accepté.
« Je leur ai demandé de cesser d’utiliser mes données. Ils ont refusé.
« Leur équipe juridique a tout simplement mis fin aux conversations. »
La doubleuse affirme n’avoir perçu qu’une rémunération « minime » pour le travail initial, qu’elle a proposé de rembourser pour la suppression des données.
Son message continue : « Imaginez donc ma détresse lorsque j’ai découvert que ScotRail avait installé le modèle ReadSpeaker « Iona », qui contient mes données vocales biométriques, comme nouvel annonceur sur tous ses trains.
« Je ne le savais pas. On ne me l’a pas demandé. » Je n'ai pas consenti.
Mme Potter a déclaré s'être sentie « violée » et a argué : « ScotRail devrait employer un être humain, quel qu'il soit. »
Évoquant une gare au nord de Glasgow, elle a déclaré : « Pourquoi continuer à choisir une horrible version IA de moi alors que je suis ici… »
« Et je sais comment prononcer Milngavie. »
S'adressant mardi à l'agence de presse PA, Mme Potter a déclaré qu'elle demandait « des excuses de ScotRail et la reconnaissance de leur erreur ».
Elle a déclaré avoir eu « un malaise et une nausée » lorsqu'elle a vu pour la première fois des informations sur l'utilisation d'Iona dans les trains écossais.
Mme Potter a maintenant entendu une version modifiée de sa propre voix lui parler dans les trains, ajoutant : « On m'a dit dix fois que c'était comme un épisode de Black Mirror. »
L'actrice a soutenu que l'utilisation de ses données vocales pour un modèle d'IA n'était pas quelque chose à laquelle elle aurait pu consentir lors des premiers enregistrements. Elle a déclaré : « Je reconnais pleinement que la technologie a évolué (depuis 2021), mais la bonne chose à faire est de revoir un contrat. »
Le soutien à sa position a été « incroyable », a-t-elle déclaré, appelant les responsables politiques à légiférer pour rendre illégale l'utilisation de l'IA pour se faire passer pour quelqu'un sans son consentement.
Un porte-parole de ReadSpeaker a déclaré à PA : « ReadSpeaker est conscient des préoccupations de Mme Potter.
ReadSpeaker et Mme Potter ont un contrat concernant l'utilisation de sa voix.
ReadSpeaker a abordé en détail les préoccupations de Mme Potter avec son représentant légal à plusieurs reprises par le passé. »
Phil Campbell, directeur des opérations clients de ScotRail, a déclaré : « Nous cherchons constamment à améliorer l'expérience client et nous savons combien les annonces à bord des trains et en gare sont importantes. »
« L'utilisation d'une voix automatisée nous permet de mieux contrôler les annonces, d'assurer la cohérence pour les clients et d'apporter des modifications à court terme. »
« ScotRail a toujours eu recours à des annonces automatisées pour informer ses clients, mais cela ne remplace pas l'interaction humaine, que ce soit par des enregistrements audio préenregistrés ou par le personnel à bord des trains ; cette pratique est vouée à perdurer. »
« Nous travaillons en étroite collaboration avec Network Rail et d'autres compagnies ferroviaires pour continuer d'améliorer le réseau ferroviaire écossais, et nous espérons de nouvelles avancées dans les mois à venir. »
L'opérateur ferroviaire a déclaré à la BBC qu'il n'avait pas l'intention de supprimer la voix automatisée de ses trains.