Problema 2307
Deepfakes ha tenido un gran impacto en el mundo de la edición de imágenes, audio y video, entonces, ¿por qué Adobe, el gigante corporativo del mundo del contenido, no se involucra más? Bueno, la respuesta corta es que lo es, pero lentamente y con cuidado. Hoy, en la conferencia anual Max de la compañía, presentó una herramienta prototipo llamada Proyecto Morpheus que demuestra tanto el potencial como los problemas de integrar técnicas de falsificación profunda en sus productos.
Project Morpheus es básicamente una versión en video de [Neural Filters] de la compañía (https://www.theverge.com/2020/10/20/21517616/adobe-photoshop-ai-neural-filters-beta-launch-machine-learning ), introducido en Photoshop el año pasado. Estos filtros utilizan el aprendizaje automático para ajustar la apariencia de un sujeto, modificando cosas como su edad, color de cabello y expresión facial (para cambiar una mirada de sorpresa a una de enojo, por ejemplo). Morpheus trae todos esos mismos ajustes al contenido de video mientras agrega algunos filtros nuevos, como la capacidad de cambiar el vello facial y los anteojos. Piense en ello como una pantalla de creación de personajes para humanos.
Project Morpheus es una herramienta deepfake, aunque Adobe no lo llamará así
Los resultados definitivamente no son perfectos y tienen un alcance muy limitado en relación con el mundo más amplio de las falsificaciones profundas. Solo puede hacer ajustes pequeños y predeterminados en la apariencia de las personas frente a la cámara, y no puede hacer cosas como intercambios de rostros, por ejemplo. Pero la calidad mejorará rápidamente, y aunque la característica es solo un prototipo por ahora sin garantía de que aparecerá en el software de Adobe, es claramente algo que la compañía está investigando seriamente.
Sin embargo, lo que Project Morpheus también es es una herramienta de falsificación profunda, lo que es potencialmente un problema. Uno grande. Porque los deepfakes y todo lo que está asociado con ellos, desde la pornografía no consensuada hasta la propaganda política, no son exactamente buenos para los negocios.
Ahora, dada la laxitud con la que definimos deepfakes en estos días, podría decirse que Adobe ha sido haciendo tales herramientas durante años. Estos incluyen los filtros neuronales antes mencionados, así como herramientas más funcionales como el enmascaramiento y la segmentación asistidos por IA. Pero Project Morpheus es obviamente mucho más deepfakey que los esfuerzos anteriores de la compañía. Se trata de editar secuencias de video de humanos, de maneras que muchos probablemente encontrarán extrañas o manipuladoras.
Cambiar la expresión facial de alguien en un video, por ejemplo, puede ser usado por un director para mejorar una mala toma, pero también podría usarse para crear propaganda política, p. hacer que un disidente encarcelado parezca relajado en las imágenes de la corte cuando en realidad lo están matando de hambre. Es a lo que los expertos en política se refieren como una "tecnología de doble uso", que es una forma rápida de decir que la tecnología es "a veces buena, a veces tal vez una mierda".
Esta, sin duda, es la razón por la cual Adobe no usó ni una sola vez la palabra "deepfake" para describir la tecnología en ninguno de los materiales informativos que envió a The Verge. Y cuando preguntamos por qué, la empresa no respondió directamente, sino que dio una respuesta larga sobre la seriedad con la que se toma las amenazas que plantean las falsificaciones profundas y lo que está haciendo al respecto.
Los esfuerzos de Adobe en estas áreas parecen comprometidos y sinceros (principalmente se centran en [esquemas de autenticación de contenido] (https://www.slashgear.com/adobe-expands-content-authenticity-initiative-tools-to-fight-misinformation- 26696717/)), pero no mitigan un problema comercial al que se enfrenta la empresa: que las mismas herramientas de falsificación profunda que serían más útiles para su base de clientes son también las que son potencialmente más destructivas.
Deepfakes presenta un problema complicado para la estrategia comercial de Adobe
Tomemos, por ejemplo, la capacidad de pegar la cara de alguien en el cuerpo de otra persona, posiblemente la aplicación ur-deepfake que inició todo este problema. Es posible que desee un intercambio de rostros de este tipo por razones legítimas, como la licencia de la imagen de Bruce Willis para una [serie de anuncios móviles en Rusia] (https://www.inputmag.com/culture/bruce-willis-licensed-his-deepfake- para-una-serie-de-anuncios-de-operadores-móviles-rusos). Pero también podría estar creando pornografía no consentida para acosar, intimidar o chantajear a alguien (con mucho, la aplicación maliciosa más común de esta tecnología).
Independientemente de su intención, si desea crear este tipo de falsificación profunda, tiene muchas opciones, ninguna de las cuales proviene de Adobe. Puede contratar un estudio boutique de contenido deepfake, discutir con algún software de código abierto o, si no le importa que sus intercambios de rostros se limiten a memes y gifs preaprobados, puede descargar una aplicación. Lo que no puede hacer es iniciar Adobe Premiere o After Effects. Entonces, ¿eso cambiará en el futuro?
Es imposible decirlo con certeza, pero creo que definitivamente es una posibilidad. Después de todo, Adobe sobrevivió al advenimiento de "Photoshop" que se convirtió en una abreviatura de las imágenes editadas digitalmente en general y, a menudo, con connotaciones negativas. Y para bien o para mal, los deepfakes están perdiendo lentamente sus propias asociaciones negativas a medida que se adoptan en proyectos más convencionales. Project Morpheus es una herramienta deepfake con algunas medidas de protección serias (solo puede realizar cambios prescritos y no hay intercambio de caras, por ejemplo), pero muestra que Adobe está decidido a explorar este territorio, presumiblemente mientras evalúa las reacciones de la industria y el público.
Es apropiado que, dado que "deepfake" ha reemplazado a "Photoshopped" como la acusación de falsificación en la esfera pública, Adobe quizás se sienta excluido. Project Morpheus sugiere que podría ponerse al día pronto.