Incidents associés
L'un des effets secondaires des machines de création de contenu illimitées - l'IA générative - est un contenu illimité. Lundi, le rédacteur en chef de la célèbre publication de science-fiction Clarkesworld Magazine a annoncé qu'il avait [temporairement](http://neil-clarke.com/a -concerning-trend/) a fermé les soumissions d'histoires en raison d'une augmentation massive des histoires générées par la machine envoyées à la publication.
Dans un graphique partagé sur Twitter, l'éditeur de Clarkesworld, Neil Clarke, a compté le nombre d'écrivains interdits soumettant des histoires plagiées ou générées par des machines. Le nombre s'élevait à 500 en février, contre un peu plus de 100 en janvier et une faible base d'environ 25 en octobre 2022. L'augmentation des soumissions interdites coïncide à peu près avec la sortie de [ChatGPT](https://arstechnica.com/information- technology/2022/12/openai-invites-everyone-to-test-new-ai-powered-chatbot-with-amusing-results/) le 30 novembre 2022.
[Un graphique fourni par Neil Clarke du Clarkesworld Magazine : "C'est le nombre de personnes que nous avons dû interdire par mois. Avant fin 2022, c'était principalement du plagiat. Maintenant, ce sont des soumissions générées par des machines."](https:/ /cdn.arstechnica.net/wp-content/uploads/2023/02/clarkesworld_graph.jpg)
Les grands modèles de langage (LLM) tels que ChatGPT ont été formés sur des millions de livres et de sites Web et peuvent rapidement créer des histoires originales. Cependant, ils ne fonctionnent pas de manière autonome et un humain doit guider leur sortie avec une invite que le modèle d'IA tente ensuite de compléter automatiquement.
Depuis 2006, Clarkesworld a publié des auteurs de science-fiction renommés et a remporté plusieurs prix Hugo. Parmi les publications de science-fiction, il est bien connu pour avoir un processus de soumission ouvert et paie généralement 12 cents par mot. Sur sa page de soumissions, la publication déclare : "Nous n'envisageons pas d'histoires écrites, co-écrites ou assistées par l'IA pour le moment." Cependant, cela n'a pas empêché le nombre de soumissions d'augmenter considérablement, et Clarke l'attribue principalement aux programmes pour devenir riche rapidement.
"Les personnes à l'origine du problème ne font pas partie de la communauté SF/F", a écrit Clarke dans un tweet. « Largement poussés par des experts en 'side hustle' qui revendiquent de l'argent facile avec ChatGPT. Ils sont à l'origine de cela et méritent une partie du dédain envers les développeurs d'IA. »
Au moment de mettre sous presse, une recherche rapide sur YouTube pour des termes tels que "devenir riche avec ChatGPT" et "gagner de l'argent en écrivant avec ChatGPT" a donné de nombreux résultats, bien que nous n'ayons pas identifié de vidéo pointant vers Clarkesworld en particulier.
Le problème du contenu créé par l'IA n'est pas propre à Clarkesworld. Mardi, Reuters a rédigé un rapport sur l'essor de l'IA -des e-books générés sur Amazon. Reuters a identifié plus de 200 livres électroniques sur la boutique Kindle d'Amazon qui répertorient ChatGPT comme auteur ou co-auteur.
L'afflux de contenu généré par l'IA a laissé Clarkesworld dans une position délicate en essayant de maintenir la barre de soumission suffisamment haute pour éloigner les spammeurs, mais pas si haut qu'elle décourage les écrivains non découverts ou les écrivains de certaines régions du monde qui pourraient être injustement visés par des interdictions géographiques. Dans une série de tweets, Clarke a expliqué sa situation :
Nous n'avons pas de solution au problème. Nous avons quelques idées pour le minimiser, mais le problème ne disparaît pas. Les détecteurs ne sont pas fiables. Payer pour soumettre sacrifie trop d'auteurs légitimes. Les soumissions imprimées ne sont pas viables pour nous. Divers outils tiers de confirmation d'identité sont plus chers que les magazines ne peuvent se le permettre et ont tendance à avoir des trous régionaux. Les adopter reviendrait à interdire des pays entiers.
Nous pourrions facilement mettre en place un système qui n'autorise que les auteurs qui nous ont déjà soumis des travaux. Cela reviendrait effectivement à interdire les nouveaux auteurs, ce qui n'est pas acceptable. Ils sont une partie essentielle de cet écosystème et de notre avenir.
Il convient de rappeler que jusqu'à présent, les outils qui prétendent détecter le texte écrit par les LLM ont des taux de précision faibles (renvoyant souvent des faux positifs lorsqu'ils sont testés avec du texte écrit par l'homme), donc ils [ne sont pas actuellement](https://theconversation.com /we-pitted-chatgpt-against-tools-for-detecting-ai-written-text-and-the-results-are-troubling-199774) une solution viable. Malgré ces problèmes, Clarke dit que le magazine ne ferme pas et que les soumissions reprendront ultérieurement. Mais pour l'instant, la voie à suivre n'est pas claire.
"Cela ne va pas simplement disparaître tout seul et je n'ai pas de solution", a écrit Clarke dans un article de blog mercredi dernier. "Je suis en train de bricoler certains, mais ce n'est pas un jeu de taupe que n'importe qui peut" gagner ". Le mieux que nous puissions espérer est d'écoper suffisamment d'eau pour rester à flot." En attendant, Clarke encourage ceux qui veulent soutenir le magazine à s'abonner.