Avez-vous remarqué que beaucoup de vos amis sont soudainement des princesses fées ou des voyageurs de l'espace ? Votre flux Instagram est-il envahi de peintures de style Renaissance de personnes qui sont définitivement nées dans les années 90 ? Si c'est le cas, vous avez droit à une explication de ce qui se passe exactement ici (et ce n'est pas un voyage dans le temps).

Au cours de la semaine dernière, les utilisateurs ont afflué vers Lensa AI, une application qui utilise vos selfies et votre intelligence artificielle pour créer des portraits dans une variété de styles. Créée par la société Prisma Labs, l'application génère des images — et des polémiques.

Qu'est-ce que l'IA Lensa ?

Même si vous n'avez pas entendu parler de Lensa AI, vous avez peut-être vu son travail cette semaine. Mercredi, c'était l'application iPhone la plus populaire aux États-Unis dans l'App Store d'Apple. Lensa prend vos selfies, les étudie et produit des portraits originaux générés par ordinateur de vous - ou de toute personne dont vous l'alimentez en photos.

Dois-je payer pour cela ?

Vous faites. À l'heure actuelle, vous pouvez obtenir 50 avatars - 10 images dans cinq styles - pour 3,99 $ pendant une période d'essai d'une semaine. (Pour 35,99 $, vous pouvez vous abonner à Lensa AI pour l'année, ce qui vous permet de bénéficier d'une réduction de 51% sur les futurs avatars.) "Les avatars magiques consomment une puissance de calcul énorme pour créer des avatars incroyables pour vous", selon la page de paiement de Lensa. "C'est cher, mais nous l'avons rendu aussi abordable que possible." Juste avertissement : les prix ont fluctué à mesure que l'application est devenue de plus en plus populaire et peuvent avoir changé depuis la publication de cet article.

Comment ça marche?

Après avoir téléchargé l'application, vous téléchargerez un tas de selfies. (Faites-vous une faveur et n'incluez aucun endroit où vos mains touchent votre visage à moins que vous ne vouliez payer pour récupérer un gâchis d'images avec des phalanges fantômes suspendues à votre bouche.) Sélectionnez un sexe - masculin, féminin ou autre - et éloignez-vous de votre téléphone pendant environ une demi-heure, et quand vous revenez, hop. Votre visage, ou quelque chose comme ça, a été étiré et pressé sur une suite de 50 à 200 – selon le forfait que vous achetez – des images générées par A.I. avec des thèmes tels que «cosmique», «fée princesse» et «anime».

OK, mais comment ça marche vraiment ?

Lensa utilise Stable Diffusion, c'est-à-dire lorsque tous les chevaux d'une écurie s'étalent pour se donner un peu d'espace. Je plaisante : Stable Diffusion est un générateur d'images basé sur l'IA "vraiment puissant", a déclaré Subbarao Kambhampati, professeur à la School of Computing and Augmented Intelligence de l'Arizona State University. Similaire à DALL-E 2 et Midjourney, La diffusion stable utilise l'image des invites (comme vos selfies) et des invites textuelles (comme "fantasy", l'une des catégories de Lensa AI) pour générer des images de haute qualité qui deviennent parfois "trippy", a déclaré le Dr Kambhampati. « Il vous montre des photos que personne n'a prises ; il est juste capable de les assembler à partir de toutes les autres images qu'il a vues.

Cool.

C'est cool! C'est amusant de se voir rendu comme une peinture ou un personnage d'anime ou un petit elfe des bois avec des yeux de deux tailles très différentes et une seule main, même si vous avez deux IRL. (Toutes les images ne seront pas parfaites.) Certains utilisateurs, en particulier les personnes transgenres et non conformes au genre, trouvent même que l'utilisation de Lensa pour créer peut offrir un sentiment d'[euphorie de genre](https://www.refinery29.com/ amp/en-au/ai-avatar-art).

Je pense que certaines personnes en sont folles ? Dois-je être fou de cela, aussi?

Il y a plusieurs raisons pour lesquelles certains utilisateurs se hérissent des images que Lensa AI crache. La première est que de nombreux utilisateurs signalent que l'art les sexualise. Lorsque nous avons testé l'application, plusieurs des images que nous avons reçues après avoir téléchargé des selfies et sélectionné "féminin" incluaient des rendus du corps entier, malgré le fait que les utilisateurs sont spécifiquement invités à télécharger uniquement des selfies en gros plan. Une image montrait notre avatar dans un bikini métallique à la princesse Leia dans "Return of the Jedi". Un autre ne comprenait qu'un demi-visage sur un corps légèrement vêtu.

Prisma Labs déclare sur sa F.A.Q. page que "la sexualisation occasionnelle est observée dans toutes les catégories de genre".

Ainsi, il est assez simple d'utiliser l'application pour créer des images obscènes de qui vous voulez. Cette semaine, Tech Crunch a pu créer des avatars seins nus de célébrités en utilisant des images de la tête d'un acteur montées sur des corps seins nus. "Il s'avère que l'IA prend ces images Photoshopped comme une permission de se déchaîner, et il semble qu'elle désactive un filtre NSFW", a rapporté Tech Crunch. Imaginez maintenant cette même expérience, mais à travers l'objectif de quelqu'un qui cherche à faire du revenge porn. Ça devient trouble à la hâte.

Andrey Usoltsev, directeur général et co-fondateur de Prisma Labs, a déclaré à TechCrunch que l'utilisation de Lensa AI pour se livrer à des activités " nuisibles ou harcelantes comportement » était une violation de ses conditions d'utilisation.

Que disent les utilisateurs de l'application ?

Yasemin Anders, 29 ans, a décidé d'utiliser Lensa AI après l'avoir vue sur les réseaux sociaux et était particulièrement ravie de se voir recréée en une fée éthérée.

Elle a cependant été finalement déçue de voir que Lensa lui avait donné un corps plus mince et un visage et un cou plus minces. "S'il est suffisamment intelligent pour vous transformer en fée ou en personnage de manga, vous penseriez qu'il existe une sorte de logiciel suffisamment intelligent pour détecter également les personnes grasses", a déclaré Mx. Anders, qui vit à Berlin et travaille dans le marketing.

"Même si je m'imagine comme une fée, comme une version fantastique idéalisée de moi-même, je voudrais toujours me ressembler", a-t-elle ajouté. "Et j'ai toujours été grosse. J'ai été un gros garçon. J'ai été un gros adolescent, et je suis un gros adulte maintenant. Alors pourquoi voudrais-je imaginer une version idéale de moi qui ne me ressemble même pas ? »

D'autres utilisateurs signalent que l'application rend leur peau plus claire ou plus blanche et modifie considérablement les traits de leur visage, ce qui, selon le Dr Kambhampati, était un problème persistant avec l'IA générative. outils, y compris les lentilles faciales de Snapchat. "Si la plupart des images que vous avez alimentées dans le système étaient des visages blancs, il n'est pas surprenant que lorsqu'il essaie de créer une image qui semble "meilleure", cela la rende simplement plus blanche", a-t-il déclaré.

Que pensent les artistes de Lensa ?

Stable Diffusion a été formé sur les créations de nombreux artistes qui n'ont pas explicitement consenti à l'utilisation de leur travail au profit de Prisma Labs, a déclaré le Dr Kambhampati, ajoutant : « Si van Gogh était vivant aujourd'hui, vous auriez probablement besoin de payer van Gogh. des frais de licence pour que vos photos soient dans le style de van Gogh. Ce n'est pas ce qui s'est passé ici.

"Pour beaucoup de gens, se faire voler notre art, ils ne le considèrent pas comme quelque chose de personnel - comme, 'Oh, eh bien, vous savez, c'est juste un style; vous ne pouvez pas protéger un style par le droit d'auteur », a déclaré Jonathan Lam, un scénariste qui travaille dans les jeux vidéo et l'animation. « Mais je dirais que pour nous, notre style est en fait notre identité. C'est ce qui nous distingue les uns des autres. C'est ce qui nous rend commercialisables auprès des clients. M. Lam, qui vit à Vancouver, en Colombie-Britannique, est l'un des nombreux artistes qui ont depuis parlé sur les réseaux sociaux à propos de l'application.

Il a également noté que certaines des œuvres générées par Lensa incluent ce qui semble être des rendus de signatures d'artistes. (Plusieurs de nos propres images générées par Lensa avaient des gribouillis où une signature pourrait aller sur une peinture IRL.) "Tous ces passionnés de technologie disent que ces générateurs créent quelque chose de nouveau, mais si la signature de l'artiste est toujours là, ce n'est pas quelque chose de nouveau », a déclaré M. Lam. "Il génère simplement quelque chose en fonction des données qui l'ont alimenté."

"Je pense que le grand public suppose qu'il s'agit d'un programme qui vient d'apprendre à dessiner par lui-même dans le vide, et ils ne réalisent pas la plus grande implication de l'exploitation des données", a-t-il ajouté. "Quand vous commencez à voir ces choses devenir monétisées et que de vraies personnes sont exploitées et maltraitées, c'est assez effrayant. Et c'est encore plus effrayant quand c'est déguisé en jolie application.

Prisma Labs a-t-il répondu à ces préoccupations ?

Prisma Labs a écrit dans un fil Twitter que A.I. "ne remplacera pas les artistes numériques" et a repoussé la caractérisation selon laquelle Lensa volait le travail des artistes. "L'IA apprend à reconnaître les liens entre les images et leurs descriptions, pas les œuvres d'art", a écrit la société. "Comme le cinéma n'a pas tué le théâtre et que les logiciels de comptabilité n'ont pas éradiqué le métier, l'IA ne remplacera pas les artistes mais peut devenir un excellent outil d'assistance."

Y a-t-il des problèmes de confidentialité ?

«Je doute que tout le modèle commercial soit:« Donnez-nous 10 $ ou 15 $ et nous vous renverrons une A.I. glam shot », a déclaré Jen King, chargée de la politique de confidentialité et de données à l'Institute for Human-Centered Artificial Intelligence de l'Université de Stanford. La politique de confidentialité de Lensa AI affirme que les « données faciales » sont supprimées dans les 24 heures suivant leur traitement et ne sont pas utilisées pour identifier un utilisateur individuel, mais elle indique également que vos photos et vidéos peuvent être utilisées pour entraîner davantage les algorithmes de Lensa. Le Dr King utiliserait-il Lensa AI ? "Non."