Incidentes Asociados
Múltiples tiendas en línea y Meta eliminaron una controvertida aplicación de intercambio de rostros que promocionaba un anuncio sexualmente sugerente que presentaba el rostro de la actriz de "Harry Potter" Emma Watson impuesto a otra persona.
La aplicación para crear deepfakes, llamada Facemega, mostraba a una mujer con el rostro de Watson sonriendo con coquetería y luego arrodillándose ante lo que parece ser un hombre. El pie de foto decía: "¡Intercambia cualquier cara en el video!" Una grabación de pantalla del anuncio publicado en Twitter obtuvo 3,2 millones de visitas.
Deepfakes usa inteligencia artificial para reemplazar la semejanza de una persona con otra en videos y otros medios digitales, y su uso ha [aumentado la ética y la privacidad] (https://www.businessinsider.com/guides/tech/what-is-deepfake ) preocupaciones.
Un abogado le dijo a Insider que esta es solo una ilustración de cómo la tecnología emergente de falsificación profunda podría usarse como un "arma" contra las mujeres y las niñas.
Michael Farhi, un abogado que ha publicado material sobre el tema anteriormente, le dijo a Insider que el el uso de la IA "dará como resultado un gran salto como arma contra las mujeres en línea en todo el mundo". Agregó que las mujeres son el grupo demográfico más popular para atacar con tal acoso.
Deepfakes y venganza porno ya son amenazas para las mujeres, y la tecnología de inteligencia artificial, que puede hacer que los videos falsos [parezcan convincentemente reales] (https://www.cnn.com/2023/02/16/tech/nonconsensual-deepfake-porn/index .html), va a "cuadruplicar" los impactos negativos, dijo Farhi.
El anuncio de Facemega se publicó en Facebook hasta que el sitio lo eliminó luego de la cobertura de [NBC News] (https://www.nbcnews.com/tech/social-media/emma-watson-deep-fake-scarlett-johansson-face-swap -app-rcna73624), quien informó que la aplicación también publicó anuncios con el rostro de Scarlett Johansson en videos provocativos. Facemega aparecía gratis en Apple y Google Play, quienes lo han eliminado desde entonces, pero las aplicaciones similares siguen en la lista de ambas tiendas.
Un portavoz de Apple le dijo a Insider que la compañía eliminó la aplicación de Apple Store y que la compañía no permite aplicaciones que incluyan contenido difamatorio, pornográfico o mezquino destinado a humillar a otros. Un portavoz de Google dijo que la compañía tomó "medidas apropiadas" y eliminó la aplicación por "violaciones de nuestras políticas".
Un portavoz de Meta le dijo a Insider que sus "políticas prohíben el contenido para adultos, independientemente de si es generado por IA o no", y que la página de FaceMega estaba restringida en Facebook.
No se pudo contactar a la representación legal de Watson para hacer comentarios.
El sugerente anuncio parecía violar los propios [términos y condiciones de servicio] de Facemega (https://sc-res.fitovideo.com/aboutus/src/face.service.html), que prohíben a los usuarios cargar contenido difamatorio o sexual. explícito.
La empresa china de software Wondershare es propietaria de Facemega, según confirmó un portavoz de la empresa a Insider. Cuando se le preguntó sobre el anuncio, el portavoz de Wondershare dijo: "Nuestro departamento legal ya está dando seguimiento a este asunto, y el contenido publicitario también se eliminó de los estantes".
La tecnología deepfake se utilizará como un "arma" contra las mujeres, dijo el abogado
En los EE. UU., las víctimas de la pornografía deepfake "tienen reclamos potenciales como difamación, invasión de la privacidad, infligir angustia emocional", dijo Farhi a Insider. Pero también dijo que iniciar acciones legales a nivel internacional contra una empresa china sería un "obstáculo".
"Un abogado en cualquier parte de los EE. UU. que envíe una carta del tipo cese y desista a una entidad en China, incluso si se traduce correctamente, tendrá poco o ningún efecto en la práctica. Entonces, ¿a dónde vas después? a Facebook, que tiene sus propias reglas y regulaciones desafiantes en términos de lo que publica y los anuncios que pone", dijo Farhi.
La presión pública contra las empresas que comparten el contenido puede ser más efectiva que las acciones legales, dijo Farhi. Agregó que "los avances en tecnología están ocurriendo demasiado rápido para que sea legislado". La tecnología deepfake, como todos los avances tecnológicos, viene con "más y menos", pero Farhi dijo que los daños potenciales se están "barriendo debajo de la alfombra".
"Los defensores de la IA, por supuesto, están impulsando la idea de que obtendrás investigación instantánea, asistencia instantánea en el trabajo. Para los creadores, es un gran activo y una gran herramienta", dijo Farhi. "Va a ser una maldita pesadilla, incluso más de lo que hay ahora, como herramienta o arma para dañar a las mujeres".
Farhi dijo que es probable que un grupo especialmente vulnerable sean las adolescentes, a quienes [la venganza y la pornografía falsa] (https://www.theguardian.com/society/2023/mar/07/laura-bates-for-teenage-girls-escaping -acoso-venganza-pornografía-y-deepfake-pornografía-es-imposible) ya bombardean regularmente.
"Esto va a tener un daño real para un número incalculable de niñas y mujeres. No solo en la escuela secundaria, antes de la escuela secundaria en el nivel de escuela primaria o secundaria, hasta las mujeres de veinte, treinta y más años". ”, dijo Farhi. "Y cuanto más fácil sea hacerlo, o más fácil sea para un depredador, y va a ser mucho más fácil, más se hará".