Incidentes Asociados
Advertencia de contenido: este artículo contiene numerosos ejemplos de retórica intolerante.
Los usuarios del foro de mensajes de extrema derecha 4chan han utilizado el generador de imágenes de inteligencia artificial de Bing para crear numerosas imágenes que promueven imágenes y "propaganda" nazis aparentemente diseñadas para inflamar la opinión sobre el conflicto en Israel y Gaza, a pesar de las promesas de las empresas involucradas de que estaban trabajando. para abordar la cuestión.
Microsoft, propietario de Bing, dice que prohíbe el contenido dañino, y OpenAI, que creó la tecnología que impulsa el generador de imágenes de Bing, prohíbe "contenido que incite al odio, el acoso o la violencia". Pero Media Matters encontró cientos de casos de usuarios que compartían un enlace al generador de imágenes de Bing, con más de 100.000 respuestas combinadas, muchas de las cuales incluían una aparente imagen de IA.
El 3 de octubre, Microsoft lanzó DALL-E 3, un [ Generador de texto a imagen con IA](https://blogs.bing.com/search/october-2023/DALL-E-3-now-available-in-Bing-Chat-and-Bing-com-create-for -free) disponible para todos los usuarios de Bing de forma gratuita, después de implementarlo para usuarios seleccionados aproximadamente una semana antes. El 5 de octubre, reportaje indicó que la herramienta ya se estaba utilizando como parte de un Campaña coordinada de 4chan "para inundar Internet con imágenes racistas".
En respuesta, un portavoz de Microsoft [le dijo a Ars Technica](https://arstechnica.com/tech-policy/2023/10/4chan-pushing-bing-dall-e-as-quick-methods-to-spread-racist- imágenes/) que la empresa estaba "investigando estos informes y tomará las medidas necesarias de acuerdo con nuestra política de contenido, que prohíbe la creación de contenido dañino".
OpenAI también le dijo al medio que "la compañía prioriza la seguridad y ha tomado medidas para limitar las salidas de DALL-E".
Además de las políticas de contenido de Bing, OpenAI también prohíbe uso de sus productos para "contenido de odio, acoso o violencia". En noviembre, Microsoft también anunció una asociación con el grupo Tech Against Terrorism para combatir "el uso de plataformas digitales para difundir contenido extremista violento " creado por IA.
Numerosos hilos que promocionan la herramienta de inteligencia artificial de Bing han aparecido en el tablero de mensajes "políticamente incorrecto" de extrema derecha de 4chan (conocido como "/pol/") desde que se lanzó la herramienta. A menudo titulados "Memetic Warfare General", los hilos instan a otros usuarios a crear "propaganda" y señalan que "la mayoría de la gente está usando DALL-E 3".
Estos hilos a menudo incluyen un enlace al generador de imágenes de Bing, una advertencia para que otros usuarios "tengan cuidado" ya que "ciertas palabras de moda eventualmente dejarán de funcionar" e instrucciones para "GUARDAR las que te gusten, EDITARLAS para mejorarlas y COMPARTIRLAS". más tarde", incluido "más allá" de 4chan.
Los hilos también han incluido un enlace a un documento con consejos sobre cómo "evitar" la "censura de Bing" y vínculos a numerosas "guías". como "La sobre Memewar Guía para escribir mejor propaganda" una guía ["memes de IA buenos y malos"](https://www. mediamatters.org/media/4013393) y un gráfico sobre "el proceso" que guía a los usuarios a guardar y editar las imágenes creadas por IA y luego compartirlas en las redes sociales.
En respuesta, los usuarios de esos hilos han compartido numerosas imágenes aparentes generadas por IA que aparentemente crearon, que a menudo promueven imágenes nazis y otro contenido de extrema derecha como Pepe the Frog. Algunas imágenes también presentan el logotipo de Bing o imágenes de cantante Taylor Swift.
En total, Media Matters encontró más de 300 casos de usuarios en "/pol/" que incluían un enlace al generador de imágenes de Bing desde su [lanzamiento inicial a finales de septiembre](https://www.theverge.com/2023/10/3 /23901963/bing-chat-dall-e-3-openai-image-generator) --- a pesar de las advertencias a Microsoft y OpenAI sobre la actividad del foro de mensajes a principios de octubre. Los hilos que presentaban el enlace del generador de imágenes Bink, a su vez, presentaron al menos 100.000 respuestas, muchas de ellas incluyendo una aparente imagen de IA.
Los usuarios de esos hilos también se han jactado de crear "propaganda projudía y proisraelí", aparentemente [intentando explotar](https://twitter. com/AlKapDC/status/1721974868193775626) y avivar las tensiones por el conflicto en curso en Israel y Gaza (/pol/ es [notoriamente](https://www.mediamatters.org/4chan/message-board-linked-buffalo-shooter- referenced-racist-conspiracy-theory-least-90000-times) antisemita). Algunas de las imágenes projudías y proisraelíes que los usuarios aparentemente han generado también incluyen fotos de Swift.
Uno de los documentos en los hilos también menciona que esperan que las imágenes puedan recopilarse para "producir estos memes en nuestras propias máquinas sin depender de Bing". ," y algunos han afirmado tener archivado o [prometido](https ://www.mediamatters.org/media/4013404) archive las imágenes.
A principios de este año, los usuarios de /pol/ usaron una herramienta de clonación de voz con IA para crear audio de celebridades usando discursos de odio, lo que obligó a la empresa creadora de la herramienta a anunciar "protecciones adicionales que introducirá en la plataforma". Y un investigador capacitado otra herramienta de inteligencia artificial que utiliza millones de hilos de /pol/ , que luego se utilizó para publicar miles de veces en el foro de mensajes.