Incidents associés
OpenAI suspend l'utilisation d'une voix nommée Sky qui fait partie d'une nouvelle démo du mode vocal de ChatGPT 4.0. La voix émotive a été critiquée parce qu'elle ressemble un peu trop à l'IA de Scarlett Johansson. personnage du film de Spike Jonze de 2013 Her, et Johansson elle-même a maintenant déclaré qu'elle était "choquée, en colère et incrédule" que l'entreprise technologique utilise "une voix qui ressemblait si étrangement à la mienne" --- surtout après qu'elle a décliné leur offre de l'embaucher pour être la voix.
Saturday Night Live a souligné la similitude avec Johansson lors de la finale de la saison 49 samedi. Comme dans d'autres épisodes finaux récents, les animateurs de Weekend Update, Michael Che et Colin Jost, ont écrit les blagues de chacun. L'idée est "de se donner des blagues amusantes, presque des blagues de soutien, qui ne gâcheront jamais notre été ou notre carrière", a expliqué Jost.
Naturellement, l'exercice s'est transformé en une affaire de rire lorsque les deux comédiens ont lu des lignes provocatrices qui autrement seraient jugées de mauvais goût, incitant le Che à forcer Jost à réciter une ligne ChatGPT impliquant la femme de Jost, Johansson.
"ChatGPT a publié une nouvelle fonctionnalité d'assistant vocal inspirée du personnage d'IA de Scarlett Johansson dans Her", a déclaré Jost lors de l'émission de samedi. "Que je n'ai jamais pris la peine de regarder parce que sans ce corps, à quoi ça sert d'écouter ?" (Regardez le clip complet ici.)
Tôt lundi matin, OpenAI a annoncé qu'il suspendait la voix de Sky jusqu'à ce qu'il puisse résoudre certains des problèmes croissants et des questions des utilisateurs qui l'entourent.
"Nous avons entendu des questions sur la façon dont nous avons choisi les voix dans ChatGPT, en particulier Sky", a écrit la société dans un article sur X. "Nous travaillons à suspendre l'utilisation de Sky pendant que nous y répondons."
Open AI a été développé plus en détail dans un article de blog, à la fois reconnaissant les préoccupations des utilisateurs et expliquant son processus de création des voix. , y compris des détails sur son vaste processus de casting.
"Nous pensons que les voix de l'IA ne doivent pas délibérément imiter la voix distinctive d'une célébrité --- la voix de Sky n'est pas une imitation de Scarlett Johansson mais appartient à une actrice professionnelle différente utilisant sa propre voix naturelle", a écrit la société. "Pour protéger leur vie privée, nous ne pouvons pas partager les noms de nos talents vocaux."
Le blog poursuit : « Nous avons discuté avec chaque acteur de la vision des interactions vocales homme-IA et d'OpenAI, et avons discuté des capacités, des limites et des risques impliqués de la technologie, ainsi que des garanties que nous avons mises en œuvre. Il était important pour nous que chaque acteur a compris la portée et les intentions de Voice Mode avant de s'engager dans le projet.
Plus tard lundi, Johansson a publié une déclaration (obtenue par TVLine) affirmant qu'elle avait reçu une offre du PDG d'OpenAI, Sam Altman, pour être la voix de ChatGPT 4.0, mais elle a décliné l'offre. Lorsqu'elle a entendu plus tard la démo de la voix de Sky, "J'ai été choquée, en colère et incrédule que M. Altman poursuive une voix qui ressemblait si étrangement à la mienne que mes amis les plus proches et les médias ne pouvaient pas faire la différence." Elle affirme également que deux jours avant la sortie de ChatGPT 4.0, OpenAI a de nouveau contacté son agent pour lui demander de reconsidérer sa décision, mais avant qu'elle puisse répondre, le nouveau système --- avec Sky --- était déjà publié. Elle a maintenant été "forcée d'embaucher un conseiller juridique" et "attend avec impatience une résolution sous forme de transparence".
Lisez sa déclaration complète ci-dessous :
*"En septembre dernier, j'ai reçu une offre de Sam Altman, qui souhaitait m'embaucher pour exprimer le système ChatGPT 4.0 actuel. Il m'a dit qu'il pensait qu'en exprimant le système, je pourrais combler le fossé entre les entreprises technologiques et les créatifs et aider les consommateurs à se sentir à l'aise avec le changement sismique concernant les humains et l'IA. Il a dit qu'il pensait que ma voix réconforterait les gens. *
Après mûre réflexion et pour des raisons personnelles, j'ai décliné l'offre. Neuf mois plus tard, mes amis, ma famille et le grand public ont tous remarqué à quel point le nouveau système nommé « Sky » me ressemblait.
Quand j'ai entendu la démo publiée, j'ai été choqué, en colère et incrédule que M. Altman poursuive une voix qui ressemblait si étrangement à la mienne que mes amis les plus proches et les médias ne pouvaient pas faire la différence. M. Altman a même insinué que la similitude était intentionnelle, en tweetant un seul mot « elle » – une référence au film dans lequel j'exprimais un système de chat, Samantha, qui noue une relation intime avec un humain.
Deux jours avant la sortie de la démo ChatGPT 4.0, M. Altman a contacté mon agent pour me demander de reconsidérer ma décision. Avant que nous puissions nous connecter, le système était disponible.
À la suite de leurs actions, j'ai été obligé d'embaucher un conseiller juridique, qui a écrit deux lettres à M. Altman et OpenAI, expliquant ce qu'ils avaient fait et leur demandant de détailler le processus exact par lequel ils ont créé la voix "Sky". . Par conséquent, OpenAI a accepté à contrecœur de supprimer la voix « Sky ».
À une époque où nous sommes tous aux prises avec les deepfakes et la protection de notre propre image, de notre propre travail, de notre propre identité, je pense que ce sont des questions qui méritent une clarté absolue. J'attends avec impatience une résolution sous forme de transparence et l'adoption d'une législation appropriée pour contribuer à garantir la protection des droits individuels. "