Incidentes Asociados
OpenAI está pausando el uso de una voz llamada Sky que forma parte de una nueva demostración del modo de voz de ChatGPT 4.0. La emotiva voz ha sido criticada por sonar demasiado similar a A.I. de Scarlett Johansson. personaje de la película de Spike Jonze de 2013, Her, y la propia Johansson ahora ha declarado que está "conmocionada, enojada e incrédula" de que la compañía de tecnología usara "una voz que sonaba tan inquietantemente similar a la mía", especialmente después de que ella rechazó su oferta de contratarla para ser la voz.
Saturday Night Live destacó la similitud con Johansson durante el final de la temporada 49 el sábado. Como en otros episodios finales recientes, los presentadores de Weekend Update, Michael Che y Colin Jost, se escribieron los chistes de cada uno. La idea es "contarnos chistes divertidos, casi chistes de apoyo, que nunca arruinarían nuestro verano o nuestra carrera", explicó Jost.
Naturalmente, el ejercicio se convirtió en un asunto de risas mientras los dos comediantes leían líneas provocativas que de otro modo se considerarían de mal gusto, incitando al Che a obligar a Jost a recitar una línea de ChatGPT que involucraba a la esposa de Jost, Johansson.
"ChatGPT ha lanzado una nueva función de asistente de voz inspirada en el personaje de inteligencia artificial de Scarlett Johansson en Her", dijo Jost en el programa del sábado. "Que nunca me he molestado en mirar porque sin ese cuerpo, ¿qué sentido tiene escuchar?" (Vea el clip completo aquí.)
El lunes por la mañana temprano, OpenAI anunció que pausarían la voz de Sky hasta que pudieran abordar algunos de los crecientes problemas y preguntas de los usuarios que la rodean.
"Hemos escuchado preguntas sobre cómo elegimos las voces en ChatGPT, especialmente Sky", escribió la compañía en una publicación en X. "Estamos trabajando para suspender el uso de Sky mientras los abordamos".
Open AI se detalla en una publicación de blog, reconociendo las preocupaciones de los usuarios y explicando su proceso para crear las voces. , incluidos detalles de su extenso proceso de casting.
"Creemos que las voces de IA no deben imitar deliberadamente la voz distintiva de una celebridad. La voz de Sky no es una imitación de Scarlett Johansson sino que pertenece a una actriz profesional diferente que usa su propia voz natural", escribió la compañía. "Para proteger su privacidad, no podemos compartir los nombres de nuestros locutores".
El blog continúa: "Hablamos con cada actor sobre la visión de las interacciones de voz entre humanos e IA y OpenAI, y discutimos las capacidades, limitaciones y riesgos involucrados de la tecnología, así como las salvaguardas que hemos implementado. Era importante para nosotros que Cada actor entendió el alcance y las intenciones de Voice Mode antes de comprometerse con el proyecto".
Más tarde el lunes, Johansson emitió un comunicado (obtenido por TVLine) afirmando que recibió una oferta del CEO de OpenAI, Sam Altman, para ser la voz de ChatGPT 4.0, pero rechazó la oferta. Cuando más tarde escuchó la demostración de la voz de Sky, "me quedé sorprendida, enojada e incrédula de que el Sr. Altman persiguiera una voz que sonaba tan inquietantemente similar a la mía que mis amigos más cercanos y los medios de comunicación no podían notar la diferencia". También afirma que dos días antes del lanzamiento de ChatGPT 4.0, OpenAI se comunicó nuevamente con su agente para pedirle que lo reconsiderara, pero antes de que pudiera responder, el nuevo sistema, con Sky, ya estaba lanzado. Ahora se ha visto "obligada a contratar asesoría jurídica" y "espera con ansias una resolución en forma de transparencia".
Lea su declaración completa a continuación:
*"En septiembre pasado, recibí una oferta de Sam Altman, que quería contratarme para dar voz al actual sistema ChatGPT 4.0. Me dijo que sentía que al darle voz al sistema, podría cerrar la brecha entre las empresas de tecnología y los creativos y ayudar a los consumidores a sentirse cómodos con el cambio radical que afecta a los humanos y la IA. Dijo que sentía que mi voz sería reconfortante para la gente.
Después de mucha consideración y por motivos personales, rechacé la oferta. Nueve meses después, mis amigos, familiares y el público en general notaron cuánto se parecía a mí el sistema más nuevo llamado "Sky".
Cuando escuché la demostración publicada, me sorprendió, me enojó y me sentí incrédulo de que el Sr. Altman usara una voz que sonaba tan inquietantemente similar a la mía que mis amigos más cercanos y los medios de comunicación no podían notar la diferencia. Altman incluso insinuó que la similitud era intencional y tuiteó una sola palabra "ella", una referencia a la película en la que le di voz a un sistema de chat, Samantha, que forma una relación íntima con un humano.
Dos días antes del lanzamiento de la demostración de ChatGPT 4.0, el Sr. Altman se comunicó con mi agente y me pidió que lo reconsiderara. Antes de que pudiéramos conectarnos, el sistema ya estaba disponible.
Como resultado de sus acciones, me vi obligado a contratar un asesor legal, quien escribió dos cartas al Sr. Altman y a OpenAI, exponiendo lo que habían hecho y pidiéndoles que detallaran el proceso exacto mediante el cual crearon la voz "Sky". . En consecuencia, OpenAI aceptó a regañadientes eliminar la voz "Sky".
En una época en la que todos estamos lidiando con los deepfakes y la protección de nuestra propia imagen, nuestro propio trabajo, nuestras propias identidades, creo que estas son preguntas que merecen una claridad absoluta. Espero con interés una resolución en forma de transparencia y la aprobación de una legislación apropiada para ayudar a garantizar que los derechos individuales estén protegidos."