Incidentes Asociados
Una mujer que cree que su voz se ha utilizado para crear el nuevo sistema de anuncios generados por IA de ScotRail exige su eliminación de los trenes.
ScotRail introdujo recientemente una voz escocesa sintética para realizar anuncios a bordo en lugar de locutores humanos pregrabados.
La locutora Gayanne Potter afirmó que la locutora artificial, que se comercializa como un personaje imaginario llamado Iona, fue entrenada por la empresa tecnológica sueca ReadSpeaker utilizando su voz.
ReadSpeaker declaró a BBC Scotland News que ya había abordado las preocupaciones de la Sra. Potter "varias veces".
ScotRail afirmó que no tenía previsto eliminar "Iona" y que la disputa era entre la empresa y la locutora.
Escuche a Gayanne Potter y la nueva voz de IA, Iona, leyendo los anuncios de los trenes.
La Sra. Potter comentó que realizó un trabajo para ReadSpeaker en 2021, el cual, según le informaron, se utilizaría para software de accesibilidad y aprendizaje electrónico.
Pero dos años después, cuando el trabajo ya casi había caído en el olvido, una amiga le envió un enlace al sitio web de ReadSpeaker.
La Sra. Potter abrió la página y encontró a Iona, un programa de texto a voz que se promocionaba como una mujer pelirroja de pie en un valle escocés.
"Es mi voz; estoy absolutamente segura de que es mi voz", dijo.
"Me horroricé; la calidad era pésima".
La semana pasada, la Sra. Potter descubrió que la voz se estaba introduciendo en ScotRail tras leer un artículo en línea de la BBC Escocia.
Contaba cómo algunos pasajeros habían expresado su descontento con el nuevo locutor artificial.
Un pasajero comentó: "Fue extraño. Me di cuenta de que era IA porque sonaba como un robot".
La Sra. Potter, quien afirmó haber estado en disputa con ReadSpeaker durante dos años, reveló que, tras leer el artículo en línea, rompió a llorar.
"Después de los años que he pasado intentando que eliminen mis datos, todavía se siguen utilizando", dijo.
"También tengo que ver en redes sociales a gente burlándose y criticándolo.
"No se dan cuenta de que es una persona real a la que se le ha aplicado una aplicación de voz horrible."
La Sra. Potter añadió: "Ya es bastante difícil para la gente de la industria creativa mantener una carrera, pero competir con una versión robótica de uno mismo es la guinda del pastel."
La semana pasada, los pasajeros reaccionaron al nuevo locutor de IA en los trenes de ScotRail.
ReadSpeaker comercializa sus productos, incluyendo Iona, como un "generador de voz de IA", pero afirma que todos sus programas se basan en "locutores humanos".
La empresa utiliza un modelo de texto a voz, lo que significa que un usuario puede escribir cualquier cosa e Iona lo leerá en voz alta.
La tecnología utiliza el aprendizaje de inteligencia artificial, pero la IA necesita algo de lo que aprender.
En este caso, se trata de grabaciones de voz de un acento o idioma que intenta emular.
En respuesta a las quejas, la empresa tecnológica declaró: "ReadSpeaker está al tanto de la Sra. Potter." Preocupaciones, y las ha abordado exhaustivamente con el representante legal de la Sra. Potter en varias ocasiones en el pasado.
Jennifer Cass, socia del bufete Dentons, afirmó que existía una brecha en la protección contra el uso de la IA.
Añadió que los derechos de autor se extendían a las obras literarias y artísticas, pero no a la "semejanza o imagen".
"Actualmente, no existe protección para la imagen ni la voz en el Reino Unido", declaró la Sra. Cass.
"Es algo que se está considerando en el contexto de la consulta sobre derechos de autor en IA, que concluyó recientemente".
La Sra. Cass añadió: "Existe la duda de si los derechos de autor deberían ampliarse para abarcar la semejanza y la imagen, e impedir también la creación de réplicas digitales".
Contratos históricos
Liam Budd es responsable industrial de medios grabados en el sindicato británico Equity, que representa a 50.000 trabajadores de las industrias creativas.
Declaró: "Lamentablemente, este es solo un ejemplo de los muchos artistas cuya imagen o voz se utiliza para generar réplicas digitales sin su consentimiento pleno e informado.
Esto es una verdadera preocupación.
Nuestros miembros compiten en un mercado con sistemas de IA que han sido entrenados con su propia imagen y voz sin su consentimiento.
Su imagen está siendo secuestrada.
La Sra. Potter afirmó que la IA se había desarrollado enormemente en los últimos cuatro años y que muchos contratos históricos no cumplían con su propósito.
Añadió: "¿Por qué iba a revelar mi voz si me dejaría sin trabajo para siempre? ¡Qué locura!".
La Sra. Potter también creía que su trabajo debería estar cubierto por el RGPD (reglamento de protección de datos del Reino Unido y la UE) y que ReadSpeaker debería haber requerido su consentimiento para vender un programa comercial.
Se puso en contacto con la Oficina del Comisionado de Información, el organismo regulador que asesora sobre los derechos de protección de datos establecidos por la legislación del Reino Unido.
Pero esta indicó que el caso estaba fuera de su jurisdicción, ya que los datos estaban controlados por ReadSpeaker.
La Sra. Potter afirmó que ahora está pidiendo a sus abogados que se dirijan a ScotRail para solicitar la eliminación de los anuncios.
Dijo: «Si ScotRail quiere hacer lo correcto, con gusto me encargaré de sus anuncios de voz.
"Al menos sé decir Milngavie".