Incidents associés
A 19 ans, quand j'ai commencé à rédiger mon webcomic, je venais d'être propulsé à l'âge adulte. Je me sentais un peu mal à l'aise, un peu déplacé. Le vernis scintillant des médias sociaux, qui à l'époque était principalement Facebook, m'a dit que tout le monde autour de moi avait sa vie ensemble alors que je me sentais comme une boule de médiocrité flétrissante. Mais sûrement, je croyais, je ne pouvais pas être le seul à penser que la vie était surtout une bataille difficile de moments difficiles et de repères sociaux manqués.
J'ai commencé mon webcomic en 2011, avant que l'humour "relatable" ne soit aussi omniprésent en ligne qu'aujourd'hui. À l'époque, les bandes dessinées étaient ouvertement simples, souvent dessinées de manière tremblante dans Microsoft Paint ou dans des pages de carnet de croquis mal numérisées. Les blagues étaient moins axées sur la punchline et plus sur une question : est-ce que tu ressens ça aussi ? J'ai écrit sur les petites luttes quotidiennes des réveils manqués, des vêtements mal ajustés et des moments dignes de grincer des dents.
J'avais espéré, tout au plus, un petit créneau, mais à ma grande joie, j'ai eu un succès viral. Ma première [bande dessinée] (https://tapas.io/episode/20290) à atteindre un public important consistait simplement à ne pas vouloir se lever le matin, et elle a été accueillie par un refrain de "c'est tellement moi". Je me sentais comme si j'avais le doigt sur le pouls de l'outsider collectif. Avoir trouvé cette façon de communiquer avec les autres et en faire mon travail a été, et demeure, parmi les plus grands cadeaux et privilèges de ma vie.
Mais l'attention n'était pas entièrement positive. Fin 2016, j'ai attiré l'attention de quelqu'un sur le forum 4chan /pol/. Il n'y a pas eu d'incident particulier qui a provoqué le harcèlement, mais avec le recul, j'étais une cible typique pour de tels groupes. Je suis une femme, le message dans les bandes dessinées est féministe et, surtout, la simplicité de mon travail le rend facile à éditer et à imiter. Les gens sur le forum ont commencé à reproduire mon travail et à le modifier pour refléter des messages violemment racistes prônant le génocide et la négation de l'Holocauste, avec des croix gammées et l'introduction de personnes poussées dans des fours. Les images ont proliféré en ligne, des sites comme Twitter et Reddit les supprimant rarement.
Pour mes bandes dessinées, je garde les choses simples - des dessins percutants, un minimum de texte - parce que j'aime que mes idées soient immédiatement accessibles. J'écris beaucoup sur la vie de tous les jours. Mes animaux de compagnie, leurs bizarreries de personnalité et mon amour pour eux sont des thèmes communs.
La façon dont mes images ont été modifiées était grossière, mais quelques-unes étaient convaincantes. À travers le bombardement de mes réseaux sociaux avec ces images, l'alt-right a créé une version fantôme de moi, une version qui prônait l'idéologie néo-nazie. Parfois, les gens tombaient dedans. J'ai reçu des messages outrés et j'ai dû contacter mon éditeur pour prendre position contre cet ultraclair. J'ai commencé à recevoir des appels tard dans la nuit et j'ai dû changer de numéro, et j'ai eu la nette impression que l'alt-right voulait un effondrement public.
À un moment donné, quelqu'un a semblé avoir créé une police de caractères, ou une police, à partir de mon écriture. Quelque chose dans l'imitation de mon écriture, rationalisée dans une police de caractères facilement accessible, me semblait particulièrement violent. L'écriture est personnelle et intime pour moi, un détail qui me définit autant que d'autres traits uniques comme la couleur de mes yeux ou mon nom. Je peux facilement reconnaître l'écriture manuscrite des membres de ma famille et de mes amis - c'est littéralement leur signature. Quelque chose dans cette nouvelle police de caractères m'a donné l'impression que la personne qui l'avait créée essayait de programmer une partie de mon âme.
Dans cette bande dessinée, seul le texte a été modifié. Les dessins sont de moi (même s'ils datent un peu car mon style a évolué depuis 2017). J'ai trouvé que la police de caractères était une imitation convaincante de mon écriture. Si le texte avait été inséré plus élégamment dans les bulles, je trouverais cela presque impossible à distinguer de mon travail.
Le harcèlement a choqué la naïveté de mon système. Une ombre me pendait constamment au-dessus de ma tête, des années après la fin de la campagne de harcèlement. J'écrivais différemment, essayant toujours de garder une longueur d'avance sur la façon dont mes dessins pouvaient être déformés. Chaque image dérangée créée par l'alt-right nécessitait que quelqu'un s'asseye et la retouche ou la dessine physiquement, et cela a pris du temps et des efforts, ce qui m'a permis de les dépasser et de sauver ma carrière.
Et puis vient l'intelligence artificielle. En octobre, on m'a envoyé via Twitter une image générée par A.I. d'un fan au hasard qui avait utilisé mon nom comme invite. Ce n'était pas parfait, mais les contours de mon style étaient là. L'idée que quelqu'un puisse taper mon nom dans un générateur et produire une image dans mon style m'a immédiatement dérangé. Ce n'était pas un fan art humain créant ou même un troll malveillant copiant mon style; c'était un générateur qui pouvait cracher plusieurs images en quelques secondes. Avec quelques améliorations techniques, je pouvais voir comment le processus d'imitation de mon travail deviendrait rapidement rapide et rationalisé, et les nombreux potentiels sombres bouillonnaient au premier plan de mon esprit.
Je me suis senti violé. Ma façon de dessiner est l'aboutissement complexe de mon éducation, des bandes dessinées que j'ai dévorées enfant et des nombreux petits choix qui composent la somme de ma vie. Les détails sont souvent plus personnels que les gens ne le pensent – la chemise rayée que porte mon personnage, par exemple, est un clin d'œil direct au protagoniste de "Calvin et Hobbes", ma bande dessinée préférée. Même lorsqu'une personne me copie, les nombreuses variations et nuances dans des choses comme l'épaisseur des lignes rendent difficiles les reproductions exactes. Les humains ne peuvent s'empêcher d'apporter leur propre humanité dans l'art. L'art est profondément personnel et A.I. venait d'en effacer l'humanité en réduisant l'œuvre de ma vie à un algorithme.
I.A. les générateurs de texte en image tels que Stable Diffusion, Midjourney et DALL-E ont explosé sur la scène cette année et en quelques mois seulement sont devenus largement utilisés pour créer toutes sortes d'images, allant des œuvres d'art numériques aux conceptions de personnages. Stable Diffusion a à lui seul plus de 10 million utilisateurs quotidiens. Ces A.I. Les produits sont construits sur des collections d'images appelées « ensembles de données », à partir desquelles une carte détaillée du contenu de l'ensemble de données, le « modèle », est formée en trouvant les liens entre les images et entre les images et les mots. Les images et le texte sont liés dans l'ensemble de données, de sorte que le modèle apprend à associer des mots à des images. Il peut ensuite créer une nouvelle image basée sur les mots que vous saisissez.
Ce n'est pas parfait - mais il a capturé les éléments caractéristiques de mon style de dessin. La frange noire, la chemise rayée et les grands yeux sont immédiatement reconnaissables. Comme A.I. devient de plus en plus sophistiqué, je suis de plus en plus préoccupé par ce qui est possible.
L'ensemble de données pour Stable Diffusion s'appelle LAION 5b et a été construit en collectant près de six milliards d'images sur Internet dans une pratique appelée grattage de données. La plupart, sinon la totalité, des A.I. les générateurs ont mon travail dans leurs ensembles de données.
Légalement, il semble que LAION ait pu parcourir ce qui semble être l'intégralité d'Internet, car il se considère comme une organisation à but non lucratif engagée dans la recherche universitaire. Bien qu'il ait été financé au moins en partie par Stability AI, la société qui a créé Stable Diffusion, il est [techniquement](https://waxy.org/2022/09/ai-data-laundering-how-academic-and-nonprofit -researchers-shield-tech-companies-from-accountability/) une entité distincte. Stability AI a ensuite utilisé sa branche de recherche à but non lucratif pour créer A.I. générateurs d'abord via Stable Diffusion puis commercialisés dans un nouveau modèle appelé DreamStudio.
Alors, qu'est-ce qui compose ces ensembles de données ? Eh bien, à peu près tout. Pour les artistes, beaucoup d'entre nous avaient ce qui équivalait à l'ensemble de nos portefeuilles dans l'ensemble de données sans notre consentement. Cela signifie que A.I. les générateurs ont été construits sur le dos de notre travail protégé par le droit d'auteur, et grâce à une échappatoire légale, ils ont pu produire des copies de différents niveaux de sophistication. Lorsque j'ai consulté le site Web [haveibeentrained.com](https://designtaxi.com/news/420442/New-Website%20Tells-You-If-Your-Images-Have-Been-Fed-To-Art-Generating-AI /), un site créé pour permettre aux gens de rechercher des ensembles de données LAION, tellement de mon travail s'y trouvait qu'il remplissait tout mon écran de bureau.
Beaucoup d'artistes ne sont pas complètement contre la technologie mais se sentent pris au dépourvu par le manque de considération pour notre métier. Être capable d'imiter un artiste vivant a des implications évidentes pour nos carrières, et certains artistes sont déjà confrontés à de véritables défis pour leur gagne-pain. Les artistes conceptuels créent des œuvres pour des films, des jeux vidéo, des conceptions de personnages et plus encore. Greg Rutkowski, un artiste conceptuel extrêmement populaire, a été utilisé plus de 100 000 fois dans une invite pour Stable Diffusion. Maintenant, son nom n'est plus attaché à son propre travail, mais il [invoque également une multitude d'imitations] (https://www.technologyreview.com/2022/09/16/1059598/this-artist-is-dominating -ai%20generated-art-and-hes-not-happy-about-it/) de qualité variable qu'il n'a pas approuvée. Cela pourrait semer la confusion chez les clients et brouiller les résultats cohérents et précis qu'il produit habituellement. Quand j'ai vu ce qui lui arrivait, j'ai pensé à mon combat avec mon moi d'ombre. Nous combattions chacun une version de nous-mêmes qui se ressemblait mais qui était étrange, tordue d'une manière à laquelle nous n'avions pas consenti.
Il devient plus sombre. Il a également été découvert que les ensembles de données LAION comprenaient des photos de violence extrême, des dossiers médicaux et [de la pornographie non consensuelle] (https://www.vice.com/en/article/93ad75/isis-executions-and-non-consensual-porn -sont%20powering-ai-art). Il y a une chance que quelque part là-dedans se cache une photo de vous. Il existe des garde-fous pour les plus connus A.I. générateurs, tels que la limitation de certains termes de recherche, mais cela ne change rien au fait que l'ensemble de données est toujours rempli de matériel dérangeant et que les utilisateurs peuvent trouver des moyens de contourner les limitations de termes. De plus, parce que LAION est open source, les gens créent de nouveaux A.I. générateurs qui n'ont pas ces mêmes garde-corps et qui sont souvent utilisés pour faire pornographie.
En théorie, tout le monde risque de voir son travail ou son image devenir une vulgarité avec l'IA, mais je soupçonne que ceux qui seront le plus touchés sont ceux qui sont déjà confrontés aux conséquences de l'amélioration de la technologie, à savoir les membres de groupes marginalisés. Alexandria Ocasio-Cortez, par exemple, a toute une saga de fausse pornographie non consensuelle attachée à son image. Je ne peux qu'imaginer que certains de ses détracteurs les plus malveillants seraient plus qu'heureux d'utiliser A.I. pour la harceler davantage. À l'avenir, avec A.I. technologie, beaucoup plus de gens auront un moi fantôme avec lequel ils devront compter. Une fois que les caractéristiques que nous considérons comme personnelles et uniques - notre structure faciale, notre écriture, notre façon de dessiner - peuvent être programmées et déformées en un clic de souris, les possibilités de violations sont infinies.
J'ai joué avec plusieurs générateurs, et jusqu'à présent, aucun n'a imité mon style d'une manière qui puisse directement menacer ma carrière, un fait qui changera presque certainement à mesure que l'I.A. continue de s'améliorer. C'est indéniable; les A.I. me connaissent. La plupart ont capturé les contours et les signatures de mes bandes dessinées – cheveux noirs, franges, T-shirts rayés. Pour d'autres, cela peut ressembler à un dessin qui prend forme.
Je vois un monstre se former.
Sarah Andersen est une dessinatrice de 30 ans et l'illustratrice d'une bande dessinée semi-autobiographique, "Sarah's Scribbles". Son roman graphique "Fangs" a été nominé pour un prix Eisner.