Incidents associés
Une femme qui pense que sa voix a été utilisée pour créer le nouveau système d'annonces généré par l'IA de ScotRail demande son retrait des trains.
ScotRail a récemment introduit une voix écossaise synthétique pour faire des annonces à bord, remplaçant les annonceurs humains préenregistrés.
La doubleuse Gayanne Potter a déclaré que la voix artificielle – présentée comme un personnage imaginaire appelé Iona – avait été entraînée par l'entreprise technologique suédoise ReadSpeaker grâce à sa voix.
ReadSpeaker a déclaré à BBC Scotland News avoir déjà répondu aux préoccupations de Mme Potter « à plusieurs reprises ».
ScotRail a déclaré ne pas avoir l'intention de supprimer « Iona » et que le litige oppose l'entreprise à la doubleuse.
Écoutez Gayanne Potter et la nouvelle voix artificielle Iona lire les annonces des trains.
Mme Potter a déclaré avoir travaillé pour ReadSpeaker en 2021, et on lui a dit qu'elle serait utilisée pour des logiciels d'accessibilité et d'apprentissage en ligne.
Mais deux ans plus tard, alors que le projet était largement oublié, un ami lui a envoyé un lien vers le site web de ReadSpeaker.
Mme Potter a ouvert la page et a découvert Iona, un logiciel de synthèse vocale présenté comme une femme rousse se tenant dans un vallon écossais.
« C'est ma voix ; j'en suis absolument certaine », a-t-elle déclaré.
« J'étais horrifiée ; la qualité était épouvantable. »
La semaine dernière, Mme Potter a découvert que la voix était introduite sur ScotRail après avoir lu un article en ligne de BBC Scotland.
L'article racontait le mécontentement de certains passagers face au nouvel annonceur artificiel.
Un passager a déclaré : « C'était bizarre. Je savais que c'était une IA tellement le son était robotique. »
Mme Potter, qui disait être en conflit avec ReadSpeaker depuis deux ans, a révélé avoir fondu en larmes après avoir lu l'article en ligne.
« Après toutes ces années passées à essayer de faire supprimer mes données, elles sont toujours utilisées », a-t-elle déclaré. Je consulte aussi les réseaux sociaux et je vois des gens se moquer de l'application, la critiquer.
« Ils ne réalisent pas qu'il s'agit en réalité d'une personne réelle soumise à une application vocale épouvantable. »
Mme Potter a ajouté : « Il est déjà assez difficile pour les professionnels de la création de maintenir leur carrière, mais être en concurrence avec une version robotisée de soi-même ne fait qu'aggraver les choses. »
La semaine dernière, les passagers ont réagi à la nouvelle annonceur IA dans les trains ScotRail.
ReadSpeaker commercialise ses produits, dont Iona, comme un « générateur de voix IA », mais affirme que tous ses programmes sont basés sur le « talent vocal humain ».
L'entreprise utilise un modèle de synthèse vocale, ce qui signifie qu'un utilisateur peut saisir n'importe quoi et qu'Iona le lit à voix haute.
La technologie utilise l'apprentissage par intelligence artificielle, mais l'IA a besoin de quelque chose pour apprendre.
Dans ce cas précis, il s'agit d'enregistrements vocaux d'un accent ou d'une langue qu'elle tente d'imiter.
En réponse aux plaintes, l'entreprise a déclaré : « ReadSpeaker est au courant des problèmes de Mme Potter. Elle a abordé ces préoccupations de manière exhaustive avec le représentant légal de Mme Potter à plusieurs reprises par le passé.
Jennifer Cass, associée au cabinet d'avocats Dentons, a souligné l'existence d'une lacune dans certaines protections contre l'utilisation de l'IA.
Elle a précisé que le droit d'auteur s'étendait aux œuvres littéraires et artistiques, mais pas à la ressemblance ou à l'image.
« À l'heure actuelle, il n'existe aucune protection de l'image et de la voix au Royaume-Uni », a déclaré Mme Cass.
« C'est une question qui est à l'étude dans le cadre de la consultation sur le droit d'auteur relatif à l'IA, qui s'est récemment clôturée. »
Mme Cass a ajouté : « La question se pose de savoir si le droit d'auteur devrait être étendu à la ressemblance et à l'image, et empêcher également la création de répliques numériques. »
Contrats historiques
Liam Budd est responsable industriel pour les médias enregistrés au sein du syndicat britannique Equity, qui représente 50 000 travailleurs des industries créatives.
Il a déclaré : « Malheureusement, ce n'est qu'un exemple parmi tant d'autres d'artistes dont l'image ou la voix sont utilisées pour générer des répliques numériques sans leur consentement complet et éclairé. »
C'est une réelle préoccupation.
Nos membres sont en concurrence sur un marché avec des systèmes d'IA entraînés à leur image et à leur voix sans leur consentement.
Leur image est en réalité détournée.
Mme Potter a déclaré que l'IA s'était considérablement développée ces quatre dernières années et que de nombreux contrats historiques n'étaient pas adaptés à leur finalité.
Elle a ajouté : « Pourquoi donnerais-je ma voix alors que cela allait me priver de mon emploi à jamais ? C'est insensé. »
Mme Potter estimait également que son travail devait être couvert par le RGPD (règlement britannique et européen sur la protection des données) et que son consentement aurait dû être requis pour que ReadSpeaker puisse vendre un programme commercial.
Elle a contacté le Bureau du Commissaire à l'information, l'organisme de réglementation qui conseille sur les droits en matière de protection des données établis par la législation britannique.
Celui-ci a toutefois déclaré que l'affaire ne relevait pas de sa compétence, les données étant contrôlées par ReadSpeaker.
Mme Potter a indiqué qu'elle demandait maintenant à ses avocats de contacter ScotRail pour demander le retrait des annonces.
Elle a déclaré : « Si ScotRail veut faire ce qu'il faut, je serais ravie de faire leurs annonces vocales.
« Au moins, je sais dire Milngavie. »