Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2836

Incidentes Asociados

Incidente 4903 Reportes
Clarkesworld Magazine Reportedly Closed Down Submissions Due to Massive Increase in Purportedly AI-Generated Stories

Loading...
Una tendencia preocupante
neil-clarke.com · 2023

Desde los primeros días de la pandemia, he observado un aumento en la cantidad de envíos de spam a Clarkesworld. Lo que quiero decir con eso es que hay un interés honesto en ser publicado, pero no en tener que hacer el trabajo real. Hasta hace poco, se trataba casi en su totalidad de casos de plagio, primero reemplazando el nombre del autor y luego mediante el uso de programas diseñados para "hacerlo tuyo". Este último a menudo da como resultado resultados bastante torpes como este que recibí en 2021:

Estas son las mismas oraciones de la historia original, "Human Error" de Raymond F. Jones, publicada en If (abril de 1956).

Estos casos a menudo eran fáciles de detectar y lo suficientemente infrecuentes como para que solo fueran una molestia menor. A veces se recuperó durante uno o dos meses, pero el crecimiento general fue muy lento y el número de casos se mantuvo bajo. Cualquier persona sorprendida plagiando fue expulsada de futuras presentaciones. Algunos incluso tuvieron el descaro de quejarse. “Pero realmente necesito el dinero”.

Hacia fines de 2022, hubo otro aumento en el plagio y luego los chatbots de "IA" comenzaron a llamar la atención, poniendo una nueva herramienta en su arsenal y alentando a más a probar este "ajetreo". Rápidamente se salió de control:

No voy a detallar cómo sé que estas historias son spam de "IA" ni describiré ninguno de los datos que he recopilado de estos envíos. Hay algunos patrones muy obvios y no tengo intención de ayudar a que esas personas sean menos propensas a ser atrapadas. Además, se podría abusar de algunos de los patrones que he observado y pintar a los autores legítimos con el mismo pincel. Tendencias regionales, por ejemplo.

Lo que puedo decir es que la cantidad de envíos de spam que resultaron en prohibiciones alcanzó el 38% este mes. Si bien rechazar y prohibir estos envíos ha sido simple, está creciendo a un ritmo que requerirá cambios. Para empeorar las cosas, la tecnología solo mejorará, por lo que la detección será más desafiante. (No tengo ninguna duda de que varias historias rechazadas ya han evadido la detección o fueron casos en los que simplemente nos equivocamos por precaución).

Sí, existen herramientas para detectar texto plagiado y escrito a máquina, pero son propensas a falsos negativos y positivos. Una de las empresas que vende estos servicios incluso está jugando en ambos lados, ofreciendo una herramienta para ayudar a los autores a prevenir la detección. Incluso si se utiliza únicamente para la calificación preliminar y luego es revisada por el personal, la automatización de estas herramientas de terceros en un proceso de presentación sería costosa. No creo que ninguno de los mercados de ficción corta pueda permitirse el gasto actualmente.

Me comuniqué con varios editores y la situación que estoy experimentando no es única. Parece estar afectando a los mercados "siempre abiertos" de mayor perfil mucho más que a aquellos con ventanas de presentación limitadas o tasas de pago más bajas. Esto no es terriblemente sorprendente, ya que los sitios web y los canales que promueven los esquemas de "escribir por dinero" tienden a centrar más su atención en los mercados "siempre abiertos" con tarifas por palabra más altas.

Esto podría sugerir a algunos que lo mejor para un mercado es tener ventanas de presentación limitadas, pero no tengo ninguna duda de que tales indultos serían de corta duración. (Eso, sin embargo, podría ser todo lo que algunos editores necesitan). Otros pueden buscar la seguridad de las presentaciones solicitadas u ofrecer oportunidades de presentación privada a un conjunto más reducido de autores "conocidos" en lugar de convocatorias abiertas. Los editores podrían incluso verse obligados a rechazar el deseo de privacidad de algunos autores de proporcionar menos información de contacto. Algunos pueden recurrir al bloqueo de envíos de fuentes que ocultan su ubicación con una VPN u otros servicios. Dando un paso más allá, otros podrían emplear prohibiciones regionales como estrategia, al igual que hemos visto que sucede con las transacciones financieras, debido al alto porcentaje de envíos fraudulentos provenientes de esos lugares.

Está claro que los negocios como siempre no serán sostenibles y me preocupa que este camino conduzca a un mayor número de barreras para los autores nuevos e internacionales. La ficción corta necesita a esta gente.

No va a desaparecer solo y no tengo una solución. Estoy jugando con algunos, pero este no es un juego de golpear un topo que cualquiera pueda "ganar". Lo mejor que podemos esperar es rescatar suficiente agua para mantenernos a flote. (Como si necesitáramos una cosa más para rescatar).

Si el campo no puede encontrar una manera de abordar esta situación, las cosas comenzarán a romperse. Los tiempos de respuesta empeorarán y no quiero ni pensar en lo que les sucederá a mis colegas que ofrecen comentarios sobre los envíos. No, no es la muerte de la ficción corta (por favor, deja de decir tonterías), pero va a complicar las cosas.

Editar 17/02/2023: he cerrado los comentarios en esta publicación. Hay muchos lugares para tener peleas sobre publicación o IA. El mundo no necesita uno más.

Editar 20/2/2023: las presentaciones aumentaron esta mañana, más de 50 antes del mediodía, por lo que cerré las presentaciones temporalmente. Aquí hay una versión actualizada del gráfico anterior:

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd