Incidents associés
Pour de nombreux internautes, Lensa AI est un générateur de photos de profil bon marché et accessible. Mais dans les cercles de l'art numérique, la popularité de l'art généré par l'intelligence artificielle a soulevé d'importantes préoccupations en matière de confidentialité et d'éthique.
Lensa, qui a été lancée en tant qu'application de retouche photo en 2018, est devenue virale le mois dernier après avoir publié sa fonction "avatars magiques". Il utilise un minimum de 10 images téléchargées par l'utilisateur et le réseau neuronal Stable Diffusion pour générer des portraits dans une variété de styles d'art numérique. Les médias sociaux ont été inondés de portraits Lensa AI, des peintures photoréalistes aux illustrations plus abstraites. L'application a remporté la première place dans la catégorie "Photo et vidéo" de l'App Store iOS [plus tôt ce mois-ci] (https://techcrunch.com/2022/12/01/lensa-ai-climbs-the-app-store -charts-as-its-magic-avatars-go-viral/).
Mais la croissance de l'application - et l'essor de l'art généré par l'IA au cours des derniers mois - a relancé la discussion sur l'éthique de la création d'images avec des modèles qui ont été formés à l'aide du travail original d'autres personnes.
Lensa est teinté de controverse - plusieurs artistes ont [accusé](https://arstechnica.com/information-technology/2022/09/have-ai-image-generators-assimilated-your-art-new-tool-lets-you -check/) Diffusion stable de l'utilisation de leur art sans autorisation. Beaucoup dans l'espace de l'art numérique ont également exprimé des scrupules sur les modèles d'IA produisant des images en masse pour si bon marché, surtout si ces images imitent des styles que les artistes réels ont passé des années à affiner.
Pour des frais de service de 7,99 $, les utilisateurs reçoivent 50 avatars uniques, ce qui, selon les artistes, représente une fraction de ce que coûte normalement une seule commission de portrait.
Des entreprises comme Lensa disent qu'elles "apportent l'art aux masses", a déclaré l'artiste Karla Ortiz. "Mais ce qu'ils apportent vraiment, c'est de la falsification, du vol d'art [and] copie aux masses."
Dans un e-mail à NBC News mercredi, le PDG de Prisma Labs, Andrey Usoltsev, a précisé que rendre l'art accessible aux masses "n'a jamais fait partie de la mission de l'entreprise" et a déclaré que la "démocratisation de l'accès" à une technologie comme Stable Diffusion est "une étape assez incroyable ."
"Ce qui n'était autrefois disponible que pour les utilisateurs avertis est désormais accessible à tous. Aucune compétence spécifique n'est requise", a déclaré Usoltsev.
"Alors que la technologie de l'IA devient de plus en plus sophistiquée et accessible, il est probable que nous verrons des outils et des fonctionnalités alimentés par l'IA largement intégrés dans les applications destinées aux consommateurs à une échelle rapide. Nous aimerions faire partie de cette conversation en cours et orienter l'utilisation de ces technologies de manière sûre et éthique."
Prisma a publié un long fil Twitter mardi matin, dans lequel il abordait les préoccupations concernant l'art de l'IA remplaçant l'art par de vrais artistes.
Le fil de discussion n'a pas abordé les accusations selon lesquelles de nombreux artistes n'ont pas consenti à l'utilisation de leur travail pour la formation à l'IA.
"Comme le cinéma n'a pas tué le théâtre et que les logiciels de comptabilité n'ont pas éradiqué le métier, l'IA ne remplacera pas les artistes mais peut devenir un excellent outil d'assistance", a tweeté la société (https://twitter.com/PrismaAI/status /1600136437759807489). "Nous pensons également que l'accessibilité croissante des outils alimentés par l'IA ne ferait que rendre l'art créé par l'homme dans son excellence créative plus valorisé et apprécié, car toute industrialisation apporte plus de valeur aux œuvres artisanales."
La société a déclaré que les images générées par l'IA "ne peuvent pas être décrites comme des répliques exactes d'une œuvre d'art particulière".
Usoltsev a déclaré qu'il ne pouvait pas fournir d'autres commentaires concernant les "recherches et méthodologies tierces" utilisées par Stability AI, qui a développé Stable Diffusion.
Pour certains artistes, les modèles d'IA sont un outil créatif. Plusieurs ont souligné que les modèles sont utiles pour générer des images de référence qui sont autrement difficiles à trouver en ligne. D'autres écrivains ont publié des articles sur l'utilisation des modèles pour visualiser des scènes dans leurs scénarios et romans. Alors que la valeur de l'art est subjective, le nœud de la controverse sur l'art de l'IA est le droit à la vie privée.
Ortiz, qui est connu pour avoir conçu des concepts artistiques pour des films comme "Doctor Strange", peint également des portraits d'art. Lorsqu'elle s'est rendu compte que son art était inclus dans un ensemble de données utilisé pour former le modèle d'IA que Lensa utilise pour générer des avatars, elle a dit que cela ressemblait à une "violation d'identité".
Prisma Labs supprime les photos des utilisateurs des services cloud qu'il utilise pour traiter les images après les avoir utilisées pour former son IA, a déclaré la société [TechCrunch](https://techcrunch.com/2022/12/01/lensa-ai-climbs -the-app-store-charts-as-its-magic-avatars-go-viral/). L'accord d'utilisation de la société stipule que Lensa peut utiliser les photos, vidéos et autres contenus utilisateur pour « exploiter ou améliorer Lensa » sans compensation.
Dans son fil Twitter, Lensa a déclaré qu'il utilise un "modèle distinct pour chaque utilisateur, et non un réseau de neurones monstrueux à taille unique formé pour reproduire n'importe quel visage". La société a également déclaré que les photos et le "modèle associé" de chaque utilisateur sont définitivement effacés de ses serveurs dès que les avatars de l'utilisateur sont générés.
Le fait que Lensa utilise le contenu de l'utilisateur pour former davantage son modèle d'IA, comme indiqué dans l'accord d'utilisation de l'application, devrait alarmer le public, ont déclaré les artistes qui ont parlé avec NBC News.
"Nous apprenons que même si vous l'utilisez pour votre propre inspiration, vous l'entraînez toujours avec les données d'autres personnes", a déclaré Jon Lam, un scénariste chez Riot Games. "Chaque fois que les gens l'utilisent davantage, cette chose continue d'apprendre. Chaque fois que quelqu'un l'utilise, c'est de pire en pire pour tout le monde.
Les modèles de synthèse d'images tels que Google Imagen, DALL-E et Stable Diffusion sont formés à l'aide d'ensembles de données de millions d'images. Les modèles apprennent les associations entre la disposition des pixels dans une image et les métadonnées de l'image, qui comprennent généralement des descriptions textuelles du sujet de l'image et du style artistique.
Le modèle peut alors générer de nouvelles images basées sur les associations qu'il a apprises. Lorsqu'il a reçu l'invite "description anatomique biologiquement précise d'un gâteau d'anniversaire", par exemple, le modèle Midjourney a généré des images troublantes qui ressemblaient à de véritables manuels médicaux. Les utilisateurs de Reddit décrits les images comme "brillamment bizarres" et "comme quelque chose tout droit sorti d'un rêver."
Le San Francisco Ballet a même utilisé des images générées par Midjourney pour promouvoir la production de Casse-Noisette de cette saison. Dans un communiqué de presse plus tôt cette année, le San Francisco Le directeur du marketing de Ballet, Kim Lundgren, a déclaré que l'association de la performance en direct traditionnelle avec l'art généré par l'IA était le "moyen idéal pour ajouter une touche inattendue à un classique des fêtes". La campagne a été largement critiquée par les groupes de défense des artistes.
Un porte-parole du ballet a déclaré que la campagne était une "opportunité d'expérimenter les outils technologiques d'aujourd'hui" et que près de 30 personnes ont participé à sa création.
"Dans l'esprit de l'ingéniosité de Bay Area, nous avons essayé quelque chose de nouveau", a déclaré le porte-parole. "SF Ballet reste profondément connecté et fait fièrement partie des diverses communautés artistiques de la Bay Area."
Ortiz a déclaré que des images comme celles utilisées dans la campagne du San Francisco Ballet "sont si belles en raison des données non consensuelles qu'ils ont recueillies auprès des artistes et du public".
Il faisait référence au Large-scale Artificial Intelligence Open Network (LAION), une organisation à but non lucratif qui publie des ensembles de données gratuits pour la recherche et le développement de l'IA. LAION-5B, l'un des ensembles de données utilisés pour former Stable Diffusion et Google Imagen, comprend des images accessibles au public extraites de sites tels que DeviantArt, Getty Images et Pinterest.
De nombreux artistes se sont prononcés contre les modèles qui ont été formés avec LAION parce que leur art a été utilisé dans le décor à leur insu ou sans leur permission. Lorsqu'une artiste a utilisé le site Have I Been Trained, qui permet aux utilisateurs de vérifier si leurs images étaient incluses dans LAION-5B, elle a trouvé son propre visage et ses dossiers médicaux. Ars Technica a rapporté que "des milliers de photos de dossiers médicaux de patients similaires » ont également été incluses dans l'ensemble de données.
L'artiste Mateusz Urbanowicz, dont le travail a également été inclus dans LAION-5B, a déclaré que les fans lui avaient envoyé des images générées par l'IA qui présentent des similitudes frappantes avec ses illustrations à l'aquarelle.
Il est clair que LAION n'est "pas seulement un projet de recherche que quelqu'un a mis sur Internet pour que tout le monde puisse en profiter", a-t-il déclaré, maintenant que des entreprises comme Prisma Labs l'utilisent pour des produits commerciaux.
"Et maintenant, nous sommes confrontés au même problème auquel l'industrie musicale a été confrontée avec des sites Web comme Napster, qui a peut-être été créé avec de bonnes intentions ou sans réfléchir aux implications morales."
L'industrie de l'art et de la musique respecte des lois strictes sur le droit d'auteur aux États-Unis, mais l'utilisation de matériel protégé par le droit d'auteur dans l'IA est juridiquement obscure. L'utilisation de matériel protégé par des droits d'auteur pour former des modèles d'IA pourrait relever des lois sur l'utilisation équitable, The Verge a rapporté . C'est plus compliqué en ce qui concerne le contenu généré par les modèles d'IA, et c'est difficile à appliquer, ce qui laisse peu de recours aux artistes.
"Ils prennent tout parce que c'est une zone grise légale et qu'ils l'exploitent", a déclaré Lam. "Parce que la technologie va toujours plus vite que la loi, et la loi essaie toujours de la rattraper."
Usoltsev a affirmé que Lensa est "entièrement conforme au GDPR et au CCAP". Au meilleur de sa connaissance, a-t-il déclaré, "l'utilisation commerciale du modèle ne représente aucune violation de la loi".
Il existe également peu de précédents juridiques pour intenter une action en justice contre des produits commerciaux qui utilisent une IA formée sur du matériel accessible au public. Lam et d'autres dans l'espace de l'art numérique disent qu'ils espèrent qu'un poursuite en recours collectif en cours contre GitHub Copilot, un produit Microsoft qui utilise un système d'IA formé par code public sur GitHub, ouvrira le moyen pour les artistes de protéger leur travail. Jusque-là, Lam a déclaré qu'il hésitait à partager son travail en ligne.
Lam n'est pas le seul artiste inquiet de publier son art. Après que ses messages récents appelant l'art de l'IA soient devenus viraux sur Instagram et Twitter, Lam a déclaré qu'il avait reçu "une quantité écrasante" de messages d'étudiants et d'artistes en début de carrière. demander un conseil.
Internet a "démocratisé" l'art, a déclaré Ortiz, en permettant aux artistes de promouvoir leur travail et de se connecter avec d'autres artistes. Pour des artistes comme Lam, qui a été embauché pour la plupart de ses emplois en raison de sa présence sur les réseaux sociaux, la publication en ligne est essentielle pour décrocher des opportunités de carrière. Mettre un portefeuille d'échantillons de travail sur un site protégé par mot de passe n'est pas comparable à l'exposition acquise en le partageant publiquement.
"Si personne ne connaît votre art, ils n'iront pas sur votre site Web", a ajouté Lam. "Et il va être de plus en plus difficile pour les étudiants de mettre le pied dans la porte."
L'ajout d'un filigrane peut ne pas suffire à protéger les artistes - dans un fil Twitter récent, la graphiste Lauryn Ipsum a énuméré des exemples de "restes mutilés" de signatures d'artistes dans les portraits Lensa AI.
Certains soutiennent que les générateurs d'art IA ne sont pas différents d'un artiste en herbe qui imite le style d'un autre, qui est devenu un point de discorde dans les cercles artistiques.
Quelques jours après la mort de l'illustrateur Kim Jung Gi en octobre, un ancien développeur de jeux a créé un modèle IA qui génère des images avec l'encre et le pinceau uniques de l'artiste. style. Le créateur a déclaré le modèle était un hommage au travail de Kim, mais il a immédiatement été critiqué par d'autres artistes. Ortiz, qui était ami avec Kim, a déclaré que "le tout était d'apprendre aux gens à dessiner" et que le fait d'intégrer le travail de sa vie dans un modèle d'IA était "vraiment irrespectueux".
Urbanowicz a déclaré qu'il était moins gêné par un véritable artiste qui s'inspire de ses illustrations. Un modèle d'IA, cependant, peut créer une image qu'il ne "ferait jamais" et nuire à sa marque - comme si un modèle était invité à générer "un magasin peint à l'aquarelle qui vend de la drogue ou des armes" dans son style d'illustration, et le image a été publiée avec son nom attaché.
"Si quelqu'un fait de l'art basé sur mon style et crée une nouvelle pièce, c'est sa pièce. C'est quelque chose qu'ils ont fait. Ils ont appris de moi comme j'ai appris d'autres artistes », a-t-il poursuivi. "Si vous tapez mon nom et stockez [in a prompt] pour créer une nouvelle œuvre d'art, cela oblige l'IA à créer une œuvre que je ne veux pas créer."
De nombreux artistes et défenseurs se demandent également si l'art de l'IA dévaluera le travail créé par des artistes humains.
Lam craint que les entreprises n'annulent les contrats des artistes au profit d'images générées par l'IA plus rapides et moins chères.
Urbanowicz a souligné que les modèles d'IA peuvent être formés pour reproduire le travail précédent d'un artiste, mais ne pourront jamais créer l'art qu'un artiste n'a pas encore créé. Sans des décennies d'exemples sur lesquels s'appuyer, a-t-il déclaré, les images d'IA qui ressemblaient à ses illustrations n'existeraient jamais. Même si l'avenir des arts visuels est incertain à mesure que les applications comme Lensa AI deviennent plus courantes, il espère que les artistes en herbe continueront de poursuivre des carrières dans les domaines créatifs.
"Seule cette personne peut créer son art unique", a déclaré Urbanowicz. "L'IA ne peut pas faire l'art qu'ils feront dans 20 ans."