Incidents associés
Le principe de Sanas est assez simple : supprimez votre accent en temps réel. Il a été créé en pensant à des entreprises comme les centres d'appels, où les appelants traitent les préjugés raciaux en se basant uniquement sur leurs profils vocaux. Mais Sanas ne veut pas seulement rendre votre voix plus "neutre" - il veut résoudre le problème extrêmement important des préjugés raciaux basés sur la voix dans le processus.
Marty Sarim, président de Sanas, a expliqué assez clairement où il pense que son entreprise se tient pour aider le monde lors d'une récente conversation avec SFGate.
"Nous ne voulons pas dire que les accents sont un problème parce que vous en avez un", a déclaré Sarim (https://www.sfgate.com/news/article/sanas-startup-creates-american-voice-17382771. php). "Ils ne sont un problème que parce qu'ils causent des préjugés et qu'ils causent des malentendus."
Comme c'est le cas avec la plupart des technologies deepfake, le noble rêve de Sanas est grandement entravé par les dures réalités qu'il espère changer . Les préjugés raciaux ne seront pas éradiqués en faisant en sorte que tout le monde sonne de la même manière ; c'est, en fait, l'antithèse de ce progrès. C'est juste le daltonisme racial sous un nom différent.
Les accents ne causent pas de biais - Sanas utilise des algorithmes pour rendre les voix plus blanches. L'exemple sur le site Web de l'entreprise supprime l'accent indien perceptible d'un homme et le transforme en quelque chose de robotique et d'étrange - et, oui, de blanc.
Sarim dit que les accents sont un problème car "ils causent des préjugés". Le biais ne fonctionne pas de cette façon, bien sûr ; ce n'est pas l'objet du biais qui le fait exister. Supprimer l'objet de ce biais - un accent, dans ce cas - ne fait rien pour débarrasser le monde de ce biais. Il l'écarte simplement au nom d'une conversation paisible.
Mais vous n'avez même pas besoin de parler directement avec Sarim pour comprendre où la mission de Sanas dévie. C'est là que ça se passe : dès le début. Le site Web de Sanas indique que le logiciel « crée un monde plus connecté, convivial et empathique en révolutionnant notre façon de communiquer ». Sanas ne fait aucune de ces choses ; c'est juste masquer votre identité.
Capitalisme pur - Il est si facile d'analyser comment, exactement, Sanas ne parviendra pas à provoquer un changement radical. C'est parce que l'objectif de Sanas est en fait simplement de gagner de l'argent. Clair et simple.
"Nous ne prévoyons rien de mal en sortir", a déclaré Sarim à SFGate. "En fait, je vais adopter l'approche opposée et dire simplement qu'il s'agit d'un produit qui modifie le PIB."
De nombreux investisseurs ont signé à bord pour soutenir Sanas, y compris, plus récemment, un cycle de financement de série A de 32 millions de dollars en juin. Cela ne témoigne pas de la capacité du produit à lutter contre les préjugés, mais plutôt des revenus que les investisseurs pensent qu'il peut générer. Bien qu'il n'y ait rien d'illégal à utiliser un logiciel deepfake, nous savons que les gens sont assez mauvais pour reconnaître les deepfakes quand ils voient (ou entendent ) eux - il peut donc être dans notre intérêt de mieux réglementer cette technologie avant qu'elle ne décolle vraiment.