¿Has notado que muchos de tus amigos de repente son princesas de hadas o viajeros espaciales? ¿Tu feed de Instagram está repleto de pinturas de estilo renacentista de personas que definitivamente nacieron en los años 90? Si es así, tiene derecho a una explicación de qué está pasando exactamente aquí (y no es un viaje en el tiempo).

La semana pasada, los usuarios acudieron en masa a Lensa AI, una aplicación que usa sus selfies e inteligencia artificial para crear retratos en una variedad de estilos. Creada por la empresa Prisma Labs, la aplicación está generando imágenes y controversia.

¿Qué es Lensa IA?

Incluso si no ha oído hablar de Lensa AI, posiblemente haya visto su trabajo esta semana. Hasta el miércoles, era la aplicación para iPhone más popular en los Estados Unidos en la tienda de aplicaciones de Apple. Lensa toma sus selfies, las estudia y produce retratos originales generados por computadora de usted, o de cualquier persona cuyas fotos le proporcione.

¿Tengo que pagar por ello?

Tú haces. En este momento, puede obtener 50 avatares (10 imágenes en cinco estilos) por $ 3.99 durante un período de prueba de una semana. (Por $ 35.99, puede suscribirse a Lensa AI por un año, lo que le otorga un 51 por ciento de descuento en futuros avatares). "Los avatares mágicos consumen un tremendo poder de cómputo para crear avatares increíbles para usted", según la página de pago de Lensa. “Es caro, pero lo hicimos lo más asequible posible”. Advertencia justa: los precios han estado fluctuando a medida que la aplicación se ha vuelto más y más popular y pueden haber cambiado desde que se publicó este artículo.

¿Como funciona?

Después de descargar la aplicación, subirás un montón de selfies. (Hágase un favor y no incluya ninguno donde sus manos estén tocando su cara a menos que quiera pagar dinero para recuperar un montón de imágenes con falanges fantasmas colgando de su boca). Seleccione un género: masculino, femenino u otro. y aléjese de su teléfono durante aproximadamente media hora, y cuando regrese, listo. Tu rostro, o algo parecido, se ha estirado y comprimido en un conjunto de 50 a 200, según el paquete que compres, imágenes generadas por IA con temas que incluyen "cósmico", "princesa de las hadas" y "anime".

Bien, pero ¿cómo funciona realmente?

Lensa usa Stable Diffusion, que es cuando todos los caballos en un establo se separan para darse un poco de espacio entre ellos. Es broma: Stable Diffusion es un generador de imágenes basado en IA "realmente poderoso", dijo Subbarao Kambhampati, profesor de la Escuela de Computación e Inteligencia Aumentada de la Universidad Estatal de Arizona. Similar a DALL-E 2 y Midjourney, Stable Diffusion usa imagen avisos (como sus selfies) y avisos de texto (como "fantasía", una de las categorías de Lensa AI) para generar imágenes de alta calidad que a veces se vuelven "alucinantes", dijo el Dr. Kambhampati. “Te está mostrando fotos que nadie tomó; simplemente puede unirlas de todas las otras imágenes que ha visto”.

Frio.

¡Es genial! Es divertido verte representado como una pintura o un personaje de anime o un pequeño duende del bosque con ojos de dos tamaños muy diferentes y una sola mano, incluso si tienes dos en la vida real. (No todas las imágenes van a ser perfectas). Algunos usuarios, en particular las personas transgénero y las personas que no se conforman con el género, incluso están descubriendo que usar Lensa para crear puede ofrecer una sensación de [euforia de género] (https://www.refinery29.com/ amp/en-au/ai-avatar-art).

¿Creo que algunas personas están enojadas por esto? ¿Debería estar enojado por esto también?

Hay un par de razones por las que algunos usuarios están molestos por las imágenes que Lensa AI está escupiendo. La primera es que muchos usuarios informan que el arte los está sexualizando. Cuando probamos la aplicación, varias de las imágenes que recibimos después de cargar selfies y seleccionar "femenino" incluían representaciones de cuerpo completo, a pesar de que a los usuarios se les indica específicamente que carguen solo selfies de primeros planos. Una imagen mostraba a nuestro avatar en un bikini metálico al estilo de la princesa Leia en "El retorno del Jedi". Otro incluía solo la mitad de la cara sobre un cuerpo con poca ropa.

Prisma Labs declara en su F.A.Q. page que "la sexualización ocasional se observa en todas las categorías de género".

Por lo tanto, es bastante simple usar la aplicación para crear imágenes lascivas de quien quieras. Esta semana, Tech Crunch pudo crear avatares de celebridades en topless usando imágenes de la cabeza de un actor editadas en cuerpos en topless. “Resulta que la IA toma esas imágenes retocadas con Photoshop como permiso para volverse locas, y parece que desactiva un filtro NSFW”, informó Tech Crunch. Ahora imagine ese mismo experimento, pero a través de la lente de alguien que busca hacer porno de venganza. Se pone turbio en un apuro.

Andrey Usoltsev, director ejecutivo y cofundador de Prisma Labs, le dijo a TechCrunch que el uso de Lensa AI para participar en actos "dañinos o acosadores comportamiento” fue un incumplimiento de sus términos de uso.

¿Qué dicen los usuarios sobre la aplicación?

Yasemin Anders, de 29 años, decidió usar Lensa AI después de verlo en las redes sociales y estaba particularmente emocionada de verse recreada en un hada etérea.

Sin embargo, finalmente se sintió decepcionada al ver que Lensa le había dado un cuerpo más delgado y una cara y un cuello más delgados. “Si es lo suficientemente inteligente como para convertirte en un hada o en una figura de manga, pensarías que hay algún tipo de software lo suficientemente inteligente detrás de él para detectar a las personas gordas también”, dijo Mx. Anders, que vive en Berlín y trabaja en marketing.

“Incluso si me imagino a mí misma como un hada, como una versión de fantasía idealizada de mí misma, todavía me gustaría parecerme a mí misma”, agregó. “Y yo siempre he sido gordo. He sido un niño gordo. He sido un adolescente gordo y ahora soy un adulto gordo. Entonces, ¿por qué querría imaginar una versión ideal de mí que ni siquiera se parece a mí?

Otros usuarios informan que la aplicación hace que su piel se vea más clara o más blanca y altera notablemente sus rasgos faciales, lo que, según el Dr. Kambhampati, era un problema constante con la IA generativa. herramientas, incluidas las [lentes faciales de Snapchat] (https://www.sciencedirect.com/science/article/abs/pii/S0004370221002034). “Si la mayoría de las imágenes que alimentaste al sistema eran de caras blancas, entonces no es sorprendente que cuando intenta hacer una imagen que supuestamente se ve ‘mejor’, simplemente la hace más blanca”, dijo.

¿Qué opinan los artistas de Lensa?

Stable Diffusion se capacitó en las creaciones de muchos artistas que no dieron su consentimiento explícito al uso de su trabajo para el beneficio de Prisma Labs, dijo el Dr. Kambhampati, y agregó: "Si Van Gogh estuviera vivo hoy, probablemente tendrías que pagarle a Van Gogh una tarifa de licencia para hacer que sus imágenes tengan el estilo de van Gogh”. Eso no es lo que ha sucedido aquí.

“Para muchas personas, cuando nos roban nuestro arte, no lo ven como algo personal, como, ‘Oh, bueno, ya sabes, es solo un estilo; no puedes proteger un estilo con derechos de autor”, dijo Jonathan Lam, un artista de guiones gráficos que trabaja en videojuegos y animación. “Pero diría que para nosotros, nuestro estilo es en realidad nuestra identidad. Es lo que nos diferencia unos de otros. Es lo que nos hace comercializables para los clientes”. El Sr. Lam, que vive en Vancouver, Columbia Británica, es uno de los muchos artistas que desde entonces [habló en las redes sociales] (https://twitter.com/JonLamArt/status/1599672070652461056) sobre la aplicación.

También señaló que algunas de las obras generadas por Lensa incluyen lo que parecen ser representaciones de las firmas de los artistas. (Varias de nuestras propias imágenes generadas por Lensa tenían garabatos donde una firma podría ir en una pintura IRL). “Todos estos entusiastas de la tecnología dicen que estos generadores están creando algo nuevo, pero si la firma del artista todavía está allí, no es algo nuevo. ”, dijo el Sr. Lam. “Simplemente está generando algo basado en los datos que recibió”.

“Creo que el público en general está bajo el supuesto de que es un programa que acaba de aprender a dibujarse solo en el vacío, y no se dan cuenta de la mayor implicación que tiene la explotación de datos”, agregó. “Cuando comienzas a ver que estas cosas se monetizan y personas reales son explotadas y abusadas, es bastante aterrador. Y es aún más aterrador cuando se disfraza de una bonita aplicación”.

¿Prisma Labs ha respondido a estas inquietudes?

Prisma Labs escribió en un hilo de Twitter que A.I. “no reemplazará a los artistas digitales” y rechazó la caracterización de que Lensa estaba estafando el trabajo de los artistas. “La IA aprende a reconocer las conexiones entre las imágenes y sus descripciones, no las obras de arte”, escribió la compañía. “Como el cine no acabó con el teatro y el software de contabilidad no ha erradicado la profesión, la IA no reemplazará a los artistas, pero puede convertirse en una gran herramienta de asistencia”.

¿Hay algún problema de privacidad?

“Dudo que todo el modelo de negocio sea, ‘Danos $10 o $15 y te enviaremos una I.A. tiro glamoroso'”, dijo Jen King, miembro de política de privacidad y datos del Instituto de Inteligencia Artificial Centrada en el Humano de la Universidad de Stanford. La [política de privacidad] de Lensa AI (https://lensa-ai.com/privacy) afirma que los "datos faciales" se eliminan dentro de las 24 horas posteriores a su procesamiento y no se utilizan para identificar a ningún usuario individual, pero también establece que sus fotos y videos se pueden usar para entrenar aún más los algoritmos de Lensa. ¿El Dr. King usaría Lensa AI? "No."