Incidentes Asociados
A los 19, cuando comencé a redactar mi webcomic, acababa de ser lanzado a la edad adulta. Me sentí un poco incómodo, un poco desplazado. El barniz brillante de las redes sociales, que en ese entonces era principalmente Facebook, me decía que todos los que me rodeaban tenían sus vidas en orden mientras yo me sentía como una bola fulminante de mediocridad. Pero seguramente, creía, no podía ser el único que sentía que la vida era principalmente una batalla cuesta arriba de momentos difíciles y señales sociales perdidas.
Comencé mi webcomic en 2011, antes de que el humor "identificable" fuera tan omnipresente en línea como lo es hoy. En ese momento, los cómics eran abiertamente simples, a menudo dibujados de manera inestable en Microsoft Paint o páginas de cuadernos de bocetos mal escaneadas. Los chistes estaban menos orientados al remate y más a una pregunta: ¿Tú también te sientes así? Escribí sobre las pequeñas luchas diarias de las alarmas del reloj perdidas, la ropa que no te queda bien y los momentos dignos de vergüenza.
Esperaba, como máximo, un pequeño nicho de seguidores, pero para mi euforia, tuve un éxito viral. Mi primer cómic que llegó a una audiencia considerable fue sobre simplemente no querer levantarse por la mañana, y fue recibido con un coro de "así soy yo". Sentí como si tuviera mi dedo en el pulso del desvalido colectivo. Haber encontrado esta forma de comunicarme con los demás y hacer de ella mi obra fue y sigue siendo uno de los mayores dones y privilegios de mi vida.
Pero la atención no fue del todo positiva. A fines de 2016, me llamó la atención alguien en el tablero de 4chan /pol/. No hubo ningún incidente en particular que provocara el acoso, pero en retrospectiva, yo era un blanco típico para tales grupos. Soy mujer, el mensaje en los cómics es de tendencia feminista y, lo que es más importante, la simplicidad de mi trabajo hace que sea fácil de editar e imitar. La gente en el foro comenzó a reproducir mi trabajo y a editarlo para reflejar mensajes violentamente racistas que defendían el genocidio y la negación del Holocausto, con esvásticas y la introducción de personas que eran empujadas a los hornos. Las imágenes proliferaron en línea, y sitios como Twitter y Reddit rara vez las eliminaron.
Para mis cómics, mantengo las cosas simples (dibujos llamativos, texto mínimo) porque me gusta que mis ideas sean accesibles de inmediato. Escribo mucho sobre la vida cotidiana. Mis mascotas, sus peculiaridades de personalidad y mi amor por ellas son temas comunes.
Las formas en que se alteraron mis imágenes fueron crudas, pero algunas fueron convincentes. A través del bombardeo de mis redes sociales con estas imágenes, la extrema derecha creó una versión en la sombra de mí, una versión que defendía la ideología neonazi. A veces la gente se lo tragó. Recibí mensajes indignados y tuve que contactar a mi editor para que mi postura contra esto fuera ultraclara. Empecé a recibir llamadas nocturnas y tuve que cambiar mi número, y tuve la clara impresión de que la extrema derecha quería un colapso público.
En un momento, alguien pareció haber hecho un tipo de letra, o una fuente, con mi letra. Algo sobre la imitación de mi escritura a mano, optimizada en un tipo de letra de fácil acceso, se sintió particularmente violatorio. La escritura a mano es personal e íntima para mí, un detalle que me define tanto como otros rasgos únicos como el color de mis ojos o mi nombre. Puedo reconocer fácilmente la letra de mis familiares y amigos, es literalmente su firma. Algo acerca de este nuevo tipo de letra me hizo sentir como si la persona que lo había creado estuviera tratando de programar una parte de mi alma.
En este cómic, solo se editó el texto. Los dibujos son míos (aunque están un poco anticuados ya que mi estilo ha evolucionado desde 2017). Encontré que el tipo de letra era una imitación convincente de mi letra. Si el texto se hubiera ajustado con más elegancia a los globos de diálogo, lo encontraría casi indistinguible de mi trabajo.
El acoso sacudió la ingenuidad de mi sistema. Una sombra sobre mi cabeza se cernía constantemente, años después de que terminara la campaña de acoso. Había estado escribiendo de manera diferente, siempre tratando de estar un paso por delante de cómo se podían torcer mis dibujos. Cada imagen trastornada que creaba la derecha alternativa requería que alguien se sentara y la editara o dibujara físicamente, y esto tomó tiempo y esfuerzo, lo que me permitió superarlos y salvar mi carrera.
Y luego viene la inteligencia artificial. En octubre me enviaron por Twitter una imagen generada por A.I. de un fan al azar que había usado mi nombre como aviso. No era perfecto, pero los contornos de mi estilo estaban ahí. La idea de que alguien pudiera escribir mi nombre en un generador y producir una imagen con mi estilo me perturbó de inmediato. Este no era un fan art creado por un humano o incluso un troll malicioso copiando mi estilo; este era un generador que podía escupir varias imágenes en segundos. Con algunas mejoras técnicas, pude ver cómo el proceso de imitar mi trabajo pronto se volvería rápido y simplificado, y los muchos potenciales oscuros burbujearon al frente de mi mente.
Me sentí violada. La forma en que dibujo es la culminación compleja de mi educación, los cómics que devoré cuando era niño y las muchas pequeñas elecciones que componen la suma de mi vida. Los detalles a menudo son más personales de lo que la gente cree: la camisa a rayas que usa mi personaje, por ejemplo, es un guiño directo al protagonista de "Calvin y Hobbes", mi cómic de periódico favorito. Incluso cuando una persona me copia, las muchas variaciones y matices en cosas como el grosor de línea dificultan las reproducciones exactas. Los humanos no pueden evitar llevar su propia humanidad al arte. El arte es profundamente personal, y A.I. acababa de borrar la humanidad de él al reducir el trabajo de mi vida a un algoritmo.
AI. Los generadores de texto a imagen como Stable Diffusion, Midjourney y DALL-E irrumpieron en escena este año y en solo unos meses se han vuelto ampliamente utilizados para crear todo tipo de imágenes, desde piezas de arte digital hasta diseños de personajes. [Difusión estable] (https://waxy.org/2022/08/exploring-12-million-of-the-images-used-to-train-stable-diffusions-image-generator/) solo tiene más de 10 millones usuarios diarios. Estos I.A. Los productos se basan en colecciones de imágenes conocidas como "conjuntos de datos", a partir de los cuales se forma un mapa detallado del contenido del conjunto de datos, el "modelo", al encontrar las conexiones entre imágenes y entre imágenes y palabras. Las imágenes y el texto están vinculados en el conjunto de datos, por lo que el modelo aprende a asociar palabras con imágenes. Luego puede crear una nueva imagen basada en las palabras que escribe.
No es perfecto, pero ha capturado los elementos característicos de mi estilo de dibujo. El flequillo negro, la camisa a rayas y los ojos muy abiertos son inmediatamente reconocibles. como IA se vuelve cada vez más sofisticado, estoy cada vez más preocupado por lo que es posible.
El conjunto de datos para Stable Diffusion se llama LAION 5b y se creó recopilando cerca de seis mil millones de imágenes de Internet en una práctica llamada raspado de datos. La mayoría, si no todos, A.I. Los generadores tienen mi trabajo en sus conjuntos de datos.
Legalmente, parece que LAION pudo rastrear lo que parece ser todo Internet porque se considera una organización sin fines de lucro que se dedica a la investigación académica. Si bien fue financiado al menos en parte por Stability AI, la empresa que creó Stable Diffusion, es [técnicamente](https://waxy.org/2022/09/ai-data-laundering-how-academic-and-nonprofit -investigadores-protegen-a-las-empresas-de-tecnología-de-la-responsabilidad/) una entidad separada. Stability AI luego usó su brazo de investigación sin fines de lucro para crear A.I. generadores primero a través de Stable Diffusion y luego comercializados en un nuevo modelo llamado DreamStudio.
Entonces, ¿qué constituye estos conjuntos de datos? Bueno, casi todo. Para los artistas, muchos de nosotros teníamos lo que equivalía a nuestros portafolios completos en el conjunto de datos sin nuestro consentimiento. Esto significa que la I.A. Los generadores se construyeron sobre la base de nuestro trabajo protegido por derechos de autor y, a través de una laguna legal, pudieron producir copias de diferentes niveles de sofisticación. Cuando consulté el sitio web [haveibeentrained.com](https://designtaxi.com/news/420442/New-Website%20Tells-You-If-Your-Images-Have-Been-Fed-To-Art-Generating-AI /), un sitio creado para permitir que las personas busquen conjuntos de datos LAION, gran parte de mi trabajo estaba allí que llenaba toda la pantalla de mi escritorio.
Muchos artistas no están completamente en contra de la tecnología, pero se sintieron sorprendidos por la falta de consideración por nuestro oficio. Ser capaz de imitar a un artista vivo tiene implicaciones obvias para nuestras carreras, y algunos artistas ya enfrentan desafíos reales para ganarse la vida. Los artistas conceptuales crean trabajos para películas, videojuegos, diseños de personajes y más. Greg Rutkowski, un artista conceptual muy popular, se ha utilizado en un mensaje para Stable Diffusion más de 100,000 veces. Ahora, su nombre ya no está vinculado solo a su propio trabajo, sino que también [convoca una gran cantidad de imitaciones] (https://www.technologyreview.com/2022/09/16/1059598/this-artist-is-dominating -ai%20generó-arte-y-no-está-feliz-al respecto/) de calidad variable que no ha aprobado. Esto podría confundir a los clientes y enturbia el resultado consistente y preciso que suele producir. Cuando vi lo que le estaba pasando, pensé en mi batalla con mi propia sombra. Cada uno de nosotros luchábamos contra una versión de nosotros mismos que se veía similar pero que era extraña, retorcida de una manera que no consentíamos.
Se vuelve más oscuro. También se ha descubierto que los conjuntos de datos de LAION incluyen fotos de violencia extrema, registros médicos y [pornografía no consensual] (https://www.vice.com/en/article/93ad75/isis-executions-and-non-consensual-pornografía -son%20powering-ai-art). Existe la posibilidad de que en algún lugar aceche una foto tuya. Hay algunas medidas de seguridad para la I.A. más conocida. generadores, como limitar ciertos términos de búsqueda, pero eso no cambia el hecho de que el conjunto de datos todavía está lleno de material perturbador, y que los usuarios pueden encontrar formas de evitar las limitaciones de términos. Además, debido a que LAION es código abierto, la gente está creando nuevos A.I. generadores que no tienen estas mismas medidas de seguridad y que a menudo se usan para hacer pornografía.
En teoría, todo el mundo corre el riesgo de que su trabajo o imagen se convierta en una vulgaridad con la IA, pero sospecho que los más perjudicados son los que ya se enfrentan a las consecuencias de mejorar la tecnología, es decir, los miembros de grupos marginados. Alexandria Ocasio-Cortez, por ejemplo, tiene toda una saga de pornografía no consentida profundamente falsa adjunta a su imagen. Solo puedo imaginar que algunos de sus detractores más maliciosos estarían más que felices de usar A.I. para acosarla más. En el futuro, con A.I. tecnología, muchas más personas tendrán un yo en la sombra con el que deberán contar. Una vez que las características que consideramos personales y únicas (nuestra estructura facial, nuestra escritura a mano, la forma en que dibujamos) se pueden programar y deformar con un clic del mouse, las posibilidades de violaciones son infinitas.
He estado jugando con varios generadores, y hasta ahora ninguno ha imitado mi estilo de una manera que pueda amenazar directamente mi carrera, un hecho que casi seguramente cambiará a medida que A.I. continúa mejorando. Es innegable; la IA me conoce. La mayoría ha capturado los contornos y las firmas de mis cómics: cabello negro, flequillo, camisetas a rayas. Para otros, puede parecer un dibujo tomando forma.
Veo un monstruo formándose.
Sarah Andersen es una dibujante de 30 años e ilustradora de una tira cómica semiautobiográfica, "Sarah's Scribbles". Su novela gráfica "Fangs" fue nominada a un premio Eisner.