Incidents associés
Avertissement relatif au contenu : cet article contient de nombreux exemples de rhétorique sectaire.
Les utilisateurs du site de discussion d'extrême droite 4chan ont utilisé le générateur d'images IA de Bing pour créer de nombreuses images promouvant l'imagerie nazie et la « propagande » apparemment conçues pour enflammer l'opinion autour du conflit en Israël et à Gaza, malgré les promesses des entreprises impliquées selon lesquelles elles travaillaient. pour régler le problème.
Microsoft, propriétaire de Bing, déclare interdire les contenus préjudiciables, et OpenAI, qui a créé la technologie qui alimente le générateur d'images de Bing, interdit les « contenus haineux, harcelants ou violents ». Mais Media Matters a découvert des centaines de cas d'utilisateurs partageant un lien vers le générateur d'images de Bing, avec plus de 100 000 réponses combinées, dont beaucoup incluant une image apparente d'IA.
Le 3 octobre, Microsoft lancé DALL-E 3, un [ Générateur de texte en image IA](https://blogs.bing.com/search/october-2023/DALL-E-3-now-available-in-Bing-Chat-and-Bing-com-create-for -gratuit) disponible gratuitement pour tous les utilisateurs de Bing, après l'avoir déployé auprès d'utilisateurs sélectionnés environ une semaine plus tôt. Le 5 octobre, reporting indiquait que l'outil était déjà utilisé dans le cadre d'un campagne coordonnée par 4chan "pour inonder Internet d'images racistes".
En réponse, un porte-parole de Microsoft [a déclaré à Ars Technica](https://arstechnica.com/tech-policy/2023/10/4chan-pushing-bing-dall-e-as-quick-methods-to-spread-racist- images/) que la société "enquêtait sur ces rapports et prendrait les mesures nécessaires conformément à notre politique relative au contenu, qui interdit la création de contenu préjudiciable".
OpenAI a également déclaré au média que "l'entreprise donne la priorité à la sécurité et a pris des mesures pour limiter les sorties DALL-E".
En plus des politiques de contenu de Bing, OpenAI interdit également utilisation de ses produits à des fins de « contenu haineux, harcelant ou violent ». Microsoft a également annoncé en novembre un partenariat avec le groupe Tech Against Terrorism pour lutter contre « l'utilisation de plateformes numériques pour diffuser des contenus extrémistes violents ». " créé par l'IA.
De nombreux fils de discussion faisant la promotion de l'outil d'IA de Bing sont apparus sur le forum de discussion d'extrême droite « politiquement incorrect » de 4chan (connu sous le nom de « /pol/ ») depuis le lancement de l'outil. Souvent intitulés « Memetic Warfare General », les fils de discussion incitent les autres utilisateurs à créer de la « propagande » et à noter que « la plupart des gens utilisent DALL-E 3 ».
Ces fils de discussion incluent souvent un lien vers le générateur d'images de Bing, un avertissement invitant les autres utilisateurs à "faire attention" car "certains mots à la mode finiront par vous faire perdre du temps" et des instructions pour "ENREGISTRER ceux que vous aimez, les MODIFIER pour les améliorer et les PARTAGER". plus tard", y compris "au-delà" de 4chan.
Les fils de discussion contiennent également un lien vers un document contenant des conseils sur la façon de "contourner" la "censure par bing" et des liens vers de nombreux "guides", tels que "Le On Memewar Guide pour rédiger une meilleure propagande," un [guide "les bons et les mauvais mèmes d'IA"](https://www. mediamatters.org/media/4013393), et un graphique sur "le processus" qui guide les utilisateurs dans l'enregistrement et la modification des images créées par l'IA, puis dans leur partage sur les réseaux sociaux.
En réponse, les utilisateurs de ces fils de discussion ont partagé de nombreuses images apparemment générées par l'IA qu'ils ont apparemment créées, qui font souvent la promotion des images nazies et d'autres contenus d'extrême droite tels que Pepe la grenouille. Certaines images comportent également présentant le logo de Bing ou des photos de chanteur Taylor Swift.
Au total, Media Matters a trouvé plus de 300 cas d'utilisateurs sur "/pol/" comportant un lien vers le générateur d'images de Bing depuis son [lancement initial fin septembre](https://www.theverge.com/2023/10/3 /23901963/bing-chat-dall-e-3-openai-image-generator) --- malgré les avertissements adressés à Microsoft et à OpenAI concernant l'activité du forum de discussion début octobre. Les fils de discussion contenant le lien du générateur d’images Bink comportaient à leur tour au moins 100 000 réponses, dont beaucoup incluaient une image apparente d’IA.
Les utilisateurs de ces fils de discussion se sont également vantés d'avoir créé une « propagande pro-juive et pro-israélienne », apparemment [en essayant d'exploiter](https://twitter. com/AlKapDC/status/1721974868193775626) et attiser les tensions liées au conflit en cours en Israël et à Gaza (/pol/ est [notoirement](https://www.mediamatters.org/4chan/message-board-linked-buffalo-shooter- referenced-racist-conspiracy-theory-least-90000-times) antisémite). Certaines des images pro-juives et pro-israéliennes que les utilisateurs ont apparemment générées incluent des photos de Swift.
L'un des documents des fils de discussion [mentionne] également(https://www.mediamatters.org/media/4013398) qu'ils espèrent que les images pourront être collectées afin de "produire ces mèmes sur nos propres machines sans dépendre de Bing". ," et certains ont ont affirmé l'avoir archivé ou [promis de](https ://www.mediamatters.org/media/4013404) archivez les images.
Plus tôt cette année, les utilisateurs de /pol/ ont utilisé un outil de clonage vocal IA pour créer de l'audio de célébrités utilisant des discours de haine, obligeant la société créatrice de l'outil à annoncer "des garanties supplémentaires qu'elle introduira sur la plate-forme". Et un chercheur formé un autre outil d'IA utilisant des millions de fils de discussion de /pol/ , qui a ensuite été utilisé pour publier des milliers de fois sur le forum.