Registro de citas para el Incidente 508

Respondido
Description: Voices of celebrities and public figures were deepfaked using voice synthesis for malicious intents such as impersonation or defamation, and were shared on social platforms such as 4chan and Reddit.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado por ElevenLabs e implementado por Reddit users , ElevenLabs users y 4chan users, perjudicó a public figures y celebrities.

Estadísticas de incidentes

ID
508
Cantidad de informes
4
Fecha del Incidente
2023-01-30
Editores
Khoa Lam
Firma de voz generada por IA toma medidas drásticas después de que 4chan hiciera voces de celebridades para abuso
vice.com · 2023

Los miembros de 4chan usaron ElevenLabs para hacer voces falsas de Emma Watson, Joe Rogan y otros que decían cosas racistas, transfóbicas y violentas.

Era solo cuestión de tiempo antes de que la ola de nuevas empresas de voz generadas por i…

Tuit: @elevenlabsio
twitter.com · 2023
Respuesta post-incidente de ElevenLabs

Fin de semana loco: gracias a todos por probar nuestra plataforma Beta. Si bien vemos que nuestra tecnología se aplica abrumadoramente al uso positivo, también vemos un número creciente de casos de uso indebido de clonación de voz. ¡Queremo…

Emma Watson lee Mein Kampf en 4Chan en un truco de audio falso
thetimes.co.uk · 2023

Una empresa emergente británica se vio obligada a introducir medidas de seguridad después de que se publicaran grabaciones de audio falsas de la actriz Emma Watson leyendo Mein Kampf de Adolf Hitler y el locutor Sir David Attenborough siend…

Deepfake audio: el caso de Emma Watson es una prueba de que la clonación de voz es un problema que aumentará
cosmopolitan.com · 2023

Desde que encontró la fama a la tierna edad de diez años, a través de su papel de Hermione Grainger en la franquicia de películas de Harry Potter, Emma Watson se ha convertido en un nombre familiar. Lamentablemente, también se ha convertid…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.