Incidentes Asociados
Para muchos en línea, Lensa AI es un generador de imágenes de perfil económico y accesible. Pero en los círculos del arte digital, la popularidad del arte generado por inteligencia artificial ha planteado importantes preocupaciones sobre privacidad y ética.
Lensa, que se lanzó como una aplicación de edición de fotos en 2018, se volvió viral el mes pasado después de lanzar su función de "avatares mágicos". Utiliza un mínimo de 10 imágenes cargadas por el usuario y la red neuronal Stable Diffusion para generar retratos en una variedad de estilos de arte digital. Las redes sociales se han inundado con retratos de Lensa AI, desde pinturas fotorrealistas hasta ilustraciones más abstractas. La aplicación ocupó el puesto número 1 en la categoría "Foto y video" de la iOS App Store [a principios de este mes] (https://techcrunch.com/2022/12/01/lensa-ai-climbs-the-app-store -charts-as-its-magic-avatars-go-viral/).
Pero el crecimiento de la aplicación, y el auge del arte generado por IA en los últimos meses, ha reavivado la discusión sobre la ética de crear imágenes con modelos que han sido entrenados con el trabajo original de otras personas.
Lensa está teñida de controversia: varios artistas han [acusado](https://arstechnica.com/information-technology/2022/09/have-ai-image-generators-assimilated-your-art-new-tool-lets-you -check/) Difusión estable de usar su arte sin permiso. Muchos en el espacio del arte digital también han expresado sus dudas sobre los modelos de IA que producen imágenes en masa a un precio tan bajo, especialmente si esas imágenes imitan estilos que los artistas reales han pasado años refinando.
Por una tarifa de servicio de $ 7.99, los usuarios reciben 50 avatares únicos, que los artistas dijeron que es una fracción de lo que cuesta normalmente una comisión de un solo retrato.
Compañías como Lensa dicen que están “llevando el arte a las masas”, dijo la artista Karla Ortiz. “Pero en realidad lo que están trayendo es falsificación, robo de arte [y] copiar a las masas”.
En un correo electrónico a NBC News el miércoles, el CEO de Prisma Labs, Andrey Usoltsev, aclaró que llevar el arte a las masas "nunca fue parte de la misión de la compañía" y afirmó que la "democratización del acceso" a tecnología como Stable Diffusion es "un hito bastante increíble". ."
"Lo que una vez estuvo disponible solo para usuarios expertos en tecnología ahora está disponible para que todos lo disfruten. No se requieren habilidades específicas", dijo Usoltsev.
"A medida que la tecnología de IA se vuelva cada vez más sofisticada y accesible, es probable que veamos que las herramientas y funciones impulsadas por IA se integren ampliamente en las aplicaciones orientadas al consumidor a una escala rápida. Nos gustaría ser parte de esta conversación en curso y dirigir el uso de dicha tecnología de una manera segura y ética".
Prisma emitió un extenso hilo de Twitter el martes por la mañana, en el que abordó las preocupaciones de que el arte de la IA reemplace el arte por artistas reales.
El hilo no abordó las acusaciones de que muchos artistas no dieron su consentimiento para el uso de su trabajo para el entrenamiento de IA.
“Como el cine no acabó con el teatro y el software de contabilidad no ha erradicado la profesión, la IA no reemplazará a los artistas, pero puede convertirse en una gran herramienta de ayuda”, tuiteó la empresa (https://twitter.com/PrismaAI/status /1600136437759807489). “También creemos que la creciente accesibilidad de las herramientas impulsadas por IA solo haría que el arte hecho por el hombre en su excelencia creativa fuera más valorado y apreciado, ya que cualquier industrialización aporta más valor a las obras artesanales”.
La compañía dijo que las imágenes generadas por IA "no pueden describirse como réplicas exactas de ninguna obra de arte en particular".
Usoltsev dijo que no podía proporcionar más comentarios sobre la "investigación y metodologías de terceros" utilizadas por Stability AI, que desarrolló Stable Diffusion.
Para algunos artistas, los modelos de IA son una herramienta creativa. Varios han señalado que los modelos son útiles para generar imágenes de referencia que de otro modo serían difíciles de encontrar en línea. Otros escritores han publicado sobre el uso de modelos para visualizar escenas en sus guiones y novelas. Si bien el valor del arte es subjetivo, el quid de la controversia del arte de la IA es el derecho a la privacidad.
Ortiz, quien es conocido por diseñar arte conceptual para películas como “Doctor Strange”, también pinta retratos artísticos. Cuando se dio cuenta de que su arte estaba incluido en un conjunto de datos utilizado para entrenar el modelo de IA que Lensa usa para generar avatares, dijo que se sintió como una "violación de identidad".
Prisma Labs elimina las fotos de los usuarios de los servicios en la nube que usa para procesar las imágenes después de usarlas para entrenar su IA, dijo la compañía a TechCrunch -the-app-store-charts-as-its-magic-avatars-go-viral/). El acuerdo de usuario de la empresa establece que Lensa puede usar las fotos, videos y otro contenido del usuario para "operar o mejorar Lensa" sin compensación.
En su hilo de Twitter, Lensa dijo que usa un "modelo separado para cada usuario, no una red neuronal monstruosa de talla única entrenada para reproducir cualquier rostro". La compañía también declaró que las fotos de cada usuario y el "modelo asociado" se borran permanentemente de sus servidores tan pronto como se generan los avatares del usuario.
El hecho de que Lensa use el contenido del usuario para entrenar aún más su modelo de IA, como se establece en el acuerdo de usuario de la aplicación, debería alarmar al público, dijeron los artistas que hablaron con NBC News.
“Estamos aprendiendo que incluso si lo usas para tu propia inspiración, todavía lo estás entrenando con los datos de otras personas”, dijo Jon Lam, un artista de guiones gráficos en Riot Games. “Cada vez que la gente lo usa más, esta cosa sigue aprendiendo. Cada vez que alguien lo usa, empeora cada vez más para todos”.
Los modelos de síntesis de imágenes como Google Imagen, DALL-E y Stable Diffusion se entrenan utilizando conjuntos de datos de millones de imágenes. Los modelos aprenden asociaciones entre la disposición de los píxeles en una imagen y los metadatos de la imagen, que normalmente incluyen descripciones de texto del tema de la imagen y el estilo artístico.
El modelo puede entonces generar nuevas imágenes basadas en las asociaciones que ha aprendido. Cuando se le alimentó con el aviso "descripción anatómica biológicamente precisa de un pastel de cumpleaños", por ejemplo, el modelo Midjourney generó imágenes inquietantes que parecían material de libro de texto médico real. Los usuarios de Reddit describieron las imágenes como "brillantemente extrañas" y "como algo sacado directamente de un sueño."
El Ballet de San Francisco incluso usó imágenes generadas por Midjourney para promocionar la producción de esta temporada del Cascanueces. En un comunicado de prensa a principios de este año, el San Francisco La directora de marketing de Ballet, Kim Lundgren, dijo que combinar la presentación en vivo tradicional con el arte generado por IA era la "manera perfecta de agregar un giro inesperado a un clásico navideño". La campaña fue ampliamente criticada por grupos defensores de artistas.
Un portavoz del ballet dijo que la campaña era una "oportunidad de experimentar con las herramientas tecnológicas actuales" y que casi 30 personas participaron en su creación.
"En el espíritu del ingenio del Área de la Bahía, probamos algo nuevo", dijo el vocero. "SF Ballet permanece profundamente conectado y se enorgullece de ser parte de las diversas comunidades artísticas del Área de la Bahía".
Ortiz dijo que imágenes como las utilizadas en la campaña del Ballet de San Francisco "se ven tan bien debido a los datos no consensuados que recopilaron de los artistas y el público".
Se refería a la Red Abierta de Inteligencia Artificial a Gran Escala (LAION), una organización sin fines de lucro que publica conjuntos de datos gratuitos para la investigación y el desarrollo de IA. LAION-5B, uno de los conjuntos de datos utilizados para entrenar Stable Diffusion y Google Imagen, incluye imágenes disponibles públicamente extraídas de sitios como DeviantArt, Getty Images y Pinterest.
Muchos artistas se han pronunciado en contra de modelos que han sido entrenados con LAION porque su arte se usó en el set sin su conocimiento o permiso. Cuando una artista usó el sitio Have I Been Trained, que permite a los usuarios verificar si sus imágenes estaban incluidas en LAION-5B, encontró su propia cara y registros médicos. Ars Technica informó que "miles de fotos similares de registros médicos de pacientes” también se incluyeron en el conjunto de datos.
El artista Mateusz Urbanowicz, cuyo trabajo también se incluyó en LAION-5B, dijo que los fanáticos le han enviado imágenes generadas por IA que tienen sorprendentes similitudes con sus ilustraciones en acuarela.
Está claro que LAION “no es solo un proyecto de investigación que alguien puso en Internet para que todos lo disfruten”, dijo, ahora que compañías como Prisma Labs lo están usando para productos comerciales.
“Y ahora nos enfrentamos al mismo problema que enfrentó la industria de la música con sitios web como Napster, que tal vez se hizo con buenas intenciones o sin pensar en las implicaciones morales”.
La industria del arte y la música cumple con estrictas leyes de derechos de autor en los Estados Unidos, pero el uso de material protegido por derechos de autor en IA es legalmente turbio. El uso de material con derechos de autor para entrenar modelos de IA podría estar sujeto a las leyes de uso justo, informó The Verge . Es más complicado cuando se trata del contenido que generan los modelos de IA, y es difícil de hacer cumplir, lo que deja a los artistas con pocos recursos.
“Simplemente toman todo porque es una zona gris legal y simplemente la explotan”, dijo Lam. “Porque la tecnología siempre se mueve más rápido que la ley, y la ley siempre está tratando de alcanzarla”.
Usoltsev afirmó que Lensa es "completamente una queja de GDPR y CCAP". Según su leal saber y entender, dijo, “el uso comercial del modelo no representa ninguna violación legal”.
También hay pocos precedentes legales para emprender acciones legales contra productos comerciales que usan IA entrenada en material disponible públicamente. Lam y otros en el espacio del arte digital dicen que esperan que una demanda colectiva pendiente contra GitHub Copilot, un producto de Microsoft que usa un sistema de IA entrenado por código público en GitHub, pavimente el camino para que los artistas protejan su trabajo. Hasta entonces, Lam dijo que desconfía de compartir su trabajo en línea.
Lam no es el único artista preocupado por publicar su arte. Después de que sus publicaciones recientes llamando al arte de la IA se hicieran virales en Instagram y Twitter, Lam dijo que recibió "una cantidad abrumadora" de mensajes de estudiantes y artistas de carrera temprana pidiendo un consejo.
Internet “democratizó” el arte, dijo Ortiz, al permitir que los artistas promocionen su trabajo y se conecten con otros artistas. Para artistas como Lam, que ha sido contratado para la mayoría de sus trabajos debido a su presencia en las redes sociales, publicar en línea es vital para obtener oportunidades profesionales. Poner una cartera de muestras de trabajo en un sitio protegido con contraseña no se compara con la exposición que se obtiene al compartirlo públicamente.
“Si nadie conoce tu arte, no van a ir a tu sitio web”, agregó Lam. “Y va a ser cada vez más difícil para los estudiantes poner el pie en la puerta”.
Agregar una marca de agua puede no ser suficiente para proteger a los artistas: en un [hilo reciente de Twitter] (https://twitter.com/LaurynIpsum/status/1599953586699767808), la diseñadora gráfica Lauryn Ipsum enumeró ejemplos de los "restos destrozados" de las firmas de los artistas. en los retratos de Lensa AI.
Algunos argumentan que los generadores de arte de IA no son diferentes de un aspirante a artista que emula el estilo de otro, lo que se ha convertido en un punto de discusión dentro de los círculos artísticos.
Días después de la muerte del ilustrador Kim Jung Gi en octubre, un exdesarrollador de juegos creó un modelo de IA que genera imágenes con la tinta y el pincel exclusivos del artista. estilo. El creador dijo que el modelo era un homenaje al trabajo de Kim, pero recibió una reacción inmediata de otros artistas. Ortiz, que era amigo de Kim, dijo que "todo el asunto del artista era enseñar a la gente a dibujar" y que alimentar el trabajo de su vida en un modelo de IA era "realmente una falta de respeto".
Urbanowicz dijo que le molesta menos un artista real que se inspira en sus ilustraciones. Sin embargo, un modelo de IA puede generar una imagen que "nunca haría" y dañar su marca, como si se le pidiera a un modelo que generara "una tienda pintada con acuarelas que vende drogas o armas" en su estilo de ilustración, y el la imagen fue publicada con su nombre adjunto.
“Si alguien hace arte basado en mi estilo y hace una nueva pieza, es su pieza. Es algo que hicieron. Aprendieron de mí como yo aprendí de otros artistas”, continuó. “Si escribes mi nombre y almacenas [en un aviso] para hacer una nueva obra de arte, est ás obligando a la IA a hacer arte que yo no quiero hacer”.
Muchos artistas y defensores también cuestionan si el arte de la IA devaluará el trabajo creado por artistas humanos.
A Lam le preocupa que las empresas cancelen los contratos de los artistas a favor de imágenes generadas por IA más rápidas y económicas.
Urbanowicz señaló que los modelos de IA pueden entrenarse para replicar el trabajo anterior de un artista, pero nunca podrán crear el arte que un artista aún no ha creado. Sin décadas de ejemplos de los que aprender, dijo, las imágenes de IA que se parecían a sus ilustraciones nunca existirían. Incluso si el futuro del arte visual es incierto a medida que las aplicaciones como Lensa AI se vuelven más comunes, tiene la esperanza de que los aspirantes a artistas continúen con sus carreras en campos creativos.
“Solo esa persona puede hacer su arte único”, dijo Urbanowicz. “La IA no puede hacer el arte que harán en 20 años”.