Incidentes Asociados
La premisa de Sanas es bastante simple: elimina tu acento en tiempo real. Se creó pensando en empresas como los centros de llamadas, donde las personas que llaman se enfrentan a prejuicios raciales basados únicamente en sus perfiles de voz. Pero Sanas no solo quiere hacer que su voz sea más "neutral", sino que quiere resolver el problema abrumadoramente grande del sesgo racial basado en la voz en el proceso.
Marty Sarim, presidente de Sanas, dejó bastante claro dónde cree que su empresa se encuentra para ayudar al mundo en una conversación reciente con SFGate.
“No queremos decir que los acentos son un problema porque tienes uno”, dijo Sarim (https://www.sfgate.com/news/article/sanas-startup-creates-american-voice-17382771. php). “Solo son un problema porque causan prejuicios y malentendidos”.
Como es el caso con la mayoría de [la tecnología deepfake] (https://www.inputmag.com/tech/amazon-alexa-deepfake-dead-relative-voice), el noble sueño de Sanas se ve obstaculizado en gran medida por las duras realidades que espera cambiar. . El sesgo racial no se erradicará haciendo que todos suenen igual; es, de hecho, la antítesis de ese progreso. Es solo daltonismo racial con un nombre diferente.
Los acentos no causan sesgo: Sanas usa algoritmos para hacer que las voces suenen más blancas. El ejemplo en el sitio web de la compañía elimina el notable acento indio de un hombre y lo convierte en algo robótico y extraño, y sí, blanco.
Sarim dice que los acentos son un problema porque “causan prejuicios”. El sesgo no funciona de esta manera, por supuesto; no es el objeto del sesgo lo que hace que exista. Eliminar el objeto de ese sesgo, un acento, en este caso, no hace nada para librar al mundo de ese sesgo. Simplemente lo barre a un lado en nombre de una conversación pacífica.
Pero ni siquiera necesita hablar directamente con Sarim para comprender dónde se desvía la misión de Sanas. Aquí es donde sucede: justo al principio. El sitio web de Sanas dice que el software está "creando un mundo más conectado, amigable y empático al revolucionar la forma en que nos comunicamos". Sanas no está haciendo ninguna de estas cosas; es solo enmascarar tu identidad.
Capitalismo puro: es así de fácil analizar cómo, exactamente, Sanas no logrará afectar un cambio radical. Eso es porque el objetivo de Sanas es en realidad solo ganar dinero. Llano y simple.
“No prevemos que salga nada malo de esto”, dijo Sarim a SFGate. “De hecho, tomaré el enfoque opuesto y solo diré que este es un producto que cambia el PIB”.
Muchos inversionistas se han unido para respaldar a Sanas, incluida, más recientemente, una ronda de financiación de la Serie A de $ 32 millones en junio. Eso no es un testimonio de la capacidad del producto para combatir el sesgo, sino de la cantidad de ingresos que los inversores creen que puede generar. Si bien no hay nada ilegal en el uso de software deepfake, sabemos que [las personas son bastante malas para reconocer deepfakes] (https://www.inputmag.com/tech/people-bad-identifying-deepfakes-study) cuando ven (o escuchan ) ellos, por lo que puede ser de nuestro interés regular mejor esta tecnología antes de que realmente despegue.