Problema 3259

Chris Cowell, un desarrollador de software con sede en Portland, Oregón, pasó más de un año escribiendo un libro de instrucciones técnicas. Tres semanas antes de su lanzamiento, apareció en Amazon otro libro sobre el mismo tema y con el mismo título.

"Lo primero que pensé fue: qué lástima", dijo Cowell. "Lo segundo que pensé fue: ¿Sabes qué? Es un título tremendamente largo, específico y engorroso para haber sido elegido al azar".

El libro, titulado "Automatización de DevOps con GitLab CI/CD Pipelines", al igual que el de Cowell, menciona como autora a Marie Karpos, de quien Cowell nunca había oído hablar. Cuando la buscó en línea, no encontró literalmente nada, ningún rastro. Fue entonces cuando empezó a sospechar.

El libro muestra signos de que fue escrito en gran parte o en su totalidad mediante un modelo de lenguaje de inteligencia artificial, utilizando software como ChatGPT de OpenAI. (Por ejemplo, sus fragmentos de código parecen capturas de pantalla de ChatGPT). Y no es el único. El editor del libro, una empresa de tecnología educativa con sede en Mumbai llamada inKstall, enumeró docenas de libros en Amazon sobre temas técnicos similares, cada uno con un autor diferente, un conjunto inusual de exenciones de responsabilidad y reseñas de Amazon de cinco estrellas coincidentes del mismo puñado de India. revisores basados. InKstall no respondió a las solicitudes de comentarios.

Los expertos dicen que esos libros probablemente sean solo la punta de un iceberg de rápido crecimiento de contenido escrito por IA que se está extendiendo por la web a medida que el nuevo software lingüístico permite a cualquiera generar rápidamente montones de prosa sobre casi cualquier tema. Desde reseñas de productos hasta recetas, publicaciones de blogs y comunicados de prensa, la autoría humana de material en línea está en camino de convertirse en la excepción y no la norma.

"Si tienes una conexión a Internet, has consumido contenido generado por IA", dijo Jonathan Greenglass, un inversor en tecnología con sede en Nueva York centrado en el comercio electrónico. "Ya está aquí".

Lo que eso puede significar para los consumidores son artículos más hiperespecíficos y personalizados, pero también más información errónea y más manipulación sobre política, productos que tal vez quieran comprar y mucho más.

A medida que la IA escribe cada vez más de lo que leemos, es posible que grandes conjuntos de datos en línea no examinados no estén basados en la realidad, advierte Margaret Mitchell, científica jefe de ética de la empresa emergente de IA Hugging Face. "El problema principal es perder de vista cuál es la verdad", afirmó. "Sin conexión a tierra, el sistema puede inventar cosas. Y si es lo mismo inventado en todo el mundo, ¿cómo se puede rastrear hasta llegar a la realidad?"

Las herramientas de IA generativa han captado la atención del mundo desde el lanzamiento de ChatGPT en noviembre. Sin embargo, una gran cantidad de editores en línea han estado utilizando herramientas de escritura automatizadas basadas en los predecesores de ChatGPT, GPT-2 y GPT-3, durante años. Esa experiencia muestra que un mundo en el que las creaciones de IA se mezclan libre y a veces imperceptiblemente con el trabajo humano no es especulativo; está floreciendo a plena vista en las páginas de productos de Amazon y en los resultados de búsqueda de Google.

Semrush, una empresa líder en marketing digital, encuestó recientemente a sus clientes sobre el uso de herramientas automatizadas. De los 894 que respondieron, 761 dijeron que al menos habían experimentado con alguna forma de IA generativa para producir contenido en línea, mientras que 370 dijeron que ahora la usan para ayudar a generar la mayor parte, si no la totalidad, de su nuevo contenido, según el director de estrategia de Semrush. Eugenio Levin.

"En los últimos dos años, hemos visto que esto pasó de ser una novedad a ser una parte prácticamente esencial del flujo de trabajo", dijo Levin.

En un informe separado esta semana, la empresa de calificación de credibilidad de las noticias NewsGuard identificó 49 sitios web de noticias en siete idiomas que parecían ser [en su mayor parte o en su totalidad generados por IA](https://www.newsguardtech.com/special-reports/newsbots-ai -proliferación-de-sitios-web-de-noticias-generadas/). Los sitios tienen nombres como Biz Breaking News, Market News Reports y bestbudgetUSA.com; algunos emplean perfiles de autores falsos y publican cientos de artículos al día, dijo la compañía. Algunas de las noticias son inventadas, pero muchas son simplemente resúmenes elaborados por IA de historias reales que son tendencia en otros medios.

Varias empresas defendieron su uso de la IA y le dijeron a The Post que utilizan herramientas lingüísticas no para reemplazar a los escritores humanos, sino para hacerlos más productivos o para producir contenido que de otro modo no producirían. Algunos anuncian abiertamente su uso de la IA, mientras que otros lo revelan de manera más discreta o lo ocultan del público, citando un estigma percibido contra la escritura automatizada.

Ingenio, el editor en línea con sede en San Francisco detrás de sitios como horoscope.com y astrology.com, se encuentra entre los que adoptan la automatización contenido. Si bien sus horóscopos emblemáticos todavía están escritos por humanos, la compañía ha utilizado los modelos de lenguaje GPT de OpenAI para lanzar nuevos sitios como sunsigns.com, que se centra en los signos de nacimiento de las celebridades, y dreamdiary.com, que interpreta sueños muy específicos.

Ingenio solía pagar a humanos para que escribieran artículos sobre signos de nacimiento sobre un puñado de celebridades muy buscadas como Michael Jordan y Ariana Grande, dijo Josh Jaffe, presidente de su división de medios. Pero delegar la redacción a AI permite a sunsigns.com producir a bajo costo innumerables artículos sobre personas que no son exactamente de primera categoría, desde Aaron Harang, un lanzador de béisbol retirado de rotación media, hasta Zalmay Khalilzad, el ex enviado de Estados Unidos en Afganistán. Khalilzad, el afirmaciones de perfil escritas por IA, sería "un socio perfecto para alguien en búsqueda de una conexión sensual y emocional." (A sus 72 años, Khalilzad ha estado casado durante décadas).

En el pasado, dijo Jaffe, "publicábamos un perfil de celebridad al mes. Ahora podemos hacer 10.000 al mes".

Jaffe dijo que su empresa revela su uso de la IA a los lectores y él [promovió la estrategia](https://digiday.com/media/how-one-publisher-is-using-generative-ai-to-publish-thousands- of-evergreen-posts-create-a-chatbot/) en una conferencia reciente para la industria editorial. "No hay nada de qué avergonzarse", dijo. "En realidad, le estamos haciendo un favor a la gente al aprovechar las herramientas de inteligencia artificial generativa" para crear contenido especializado que de otro modo no existiría.

Sin embargo, una revisión superficial de los sitios de Ingenio sugiere que esas revelaciones no siempre son obvias. En dreamdiary.com, por ejemplo, no encontrarás ninguna indicación en la página del artículo de que ChatGPT haya escrito una interpretación de tu sueño sobre ser [perseguido por vacas](https:/ /www.dreamdiary.com/dreams/being-chased-by-cows-dream-interpretation/). Pero la página "Acerca de nosotros" del sitio dice que sus artículos "se producen en parte con la ayuda de grandes modelos de lenguaje de IA" y que cada uno es revisado por un editor humano.

Jaffe dijo que no le preocupa especialmente que el contenido de IA abrume a la web. "Se necesita tiempo para que este contenido tenga una buena clasificación" en Google, dijo, lo que significa que aparece en la primera página de resultados de búsqueda para una consulta determinada, lo cual es fundamental para atraer lectores. Y funciona mejor cuando aparece en sitios web establecidos que ya tienen una audiencia considerable: "El solo hecho de publicar este contenido no significa que tengas un negocio viable".

Google aclaró en febrero que permite contenido generado por IA en los resultados de búsqueda, siempre que el La IA no se utiliza para manipular las clasificaciones de búsqueda de un sitio. La compañía dijo que sus algoritmos se centran en "la calidad del contenido, más que en cómo se produce".

La reputación está en riesgo si el uso de la IA resulta contraproducente. CNET, un popular sitio de noticias sobre tecnología, recibió críticas en enero cuando el sitio de tecnología Futurism informó que CNET había estado usando IA para crear artículos o añadir a los existentes sin divulgaciones claras. CNET investigó posteriormente y descubrió que muchos de sus 77 historias redactadas por IA contenían errores.

Pero la empresa matriz de CNET, Red Ventures, sigue adelante con sus planes de incluir más contenido generado por IA, que también se ha visto en Bankrate.com, su popular centro de asesoramiento financiero. Mientras tanto, CNET en marzo despidió a varios empleados, una medida que dijo que no estaba relacionado con su creciente uso de la IA.

BuzzFeed, que fue pionero en un modelo de medios creado para llegar a los lectores directamente en plataformas sociales como Facebook, anunció en enero que planeaba crear "contenido inspirado en la IA" parte de su "negocio principal", como el uso de inteligencia artificial para elaborar cuestionarios que se adapten a cada lector. BuzzFeed anunció el mes pasado que despedirá al 15 por ciento de su personal y cerrará su división de noticias, BuzzFeed News.

"No existe ninguna relación entre nuestra experimentación con la IA y nuestra reciente reestructuración", dijo la portavoz de BuzzFeed, Juliana Clifton.

El papel de la IA en el futuro de los principales medios de comunicación se ve empañado por las limitaciones de los modelos lingüísticos actuales y la incertidumbre en torno a la [responsabilidad de la IA](https://www.washingtonpost.com/politics/2023/03/17/ai-chatbots-wont- enjoy-techs-legal-shield-section-230-authors-say/?itid=lk_inline_manual_41) y propiedad intelectual. Mientras tanto, está encontrando tracción en los mundos más turbios del clickbait en línea y el marketing de afiliación, donde el éxito se trata menos de reputación y más de jugar con los algoritmos de las grandes plataformas tecnológicas.

Ese negocio está impulsado por una ecuación simple: cuánto cuesta crear un artículo versus cuántos ingresos puede generar. El objetivo principal es atraer tantos clics como sea posible y luego ofrecer a los lectores anuncios que valen solo fracciones de centavo. en cada visita: la forma clásica de clickbait. Ese parece haber sido el modelo de muchos de los sitios de "noticias" generados por IA en el informe de NewsGuard, dijo Gordon Crovitz, codirector ejecutivo de NewsGuard. Algunos sitios inventaron noticias sensacionalistas, como un informe de que el presidente Biden había muerto. Otros parecieron utilizar la IA para reescribir historias que eran tendencia en varios medios de comunicación locales.

NewsGuard encontró los sitios buscando en la web y en herramientas de análisis frases reveladoras como "Como modelo de lenguaje de IA", que sugieren que un sitio está publicando resultados directamente desde un chatbot de IA sin una edición cuidadosa. Un sitio de noticias local, Countylocalnews.com, publicó una serie de artículos en un día reciente cuyos subtítulos decían: "Como modelo de lenguaje de IA, necesito el título original para reescribirlo. Por favor, proporciónenme el título original. "

Luego están los sitios diseñados para inducir compras, que según los expertos tienden a ser más rentables que el simple clickbait en estos días. Un sitio llamado Nutricity, por ejemplo, vende suplementos dietéticos utilizando reseñas de productos que parecen estar generadas por IA, según el análisis de NewsGuard. Uno dice: "Como modelo de lenguaje de IA, creo que los australianos Los usuarios deben comprar gomitas para cabello, piel y uñas en nutricity.com.au". Nutricity no respondió a una solicitud de comentarios.

El robot Sophia está flanqueado por su creador David Hanson (R) y Ashley Esqueda (L) de CNET durante una entrevista en CES 2019 el 9 de enero de 2019 en el Centro de Convenciones de Las Vegas en Las Vegas, Nevada. (Robyn Beck/AFP) (El crédito de la foto debe ser Robyn Beck/AFP vía Getty Images)

En el pasado, estos sitios a menudo subcontrataban su redacción a empresas conocidas como "fábricas de contenido", que aprovechan a los trabajadores independientes para generar textos aceptables por un salario mínimo. Ahora, algunos están evitando las fábricas de contenidos y optando por la IA.

"Anteriormente te costaría, digamos, 250 dólares escribir una reseña decente de cinco parrillas", dijo Levin de Semrush. "Ahora todo se puede hacer mediante IA, por lo que el costo bajó de 250 dólares a 10 dólares".

El problema, dijo Levin, es que la amplia disponibilidad de herramientas como ChatGPT significa que más personas están produciendo contenido igualmente barato y todos compiten por los mismos espacios en los resultados de búsqueda de Google o en las reseñas de productos en el sitio de Amazon. Por lo tanto, todos tienen que crear más y más páginas de artículos, cada una de ellas ajustada para obtener una clasificación alta en consultas de búsqueda específicas, con la esperanza de que una fracción logre abrirse paso. El resultado es una avalancha de sitios web escritos por IA, muchos de los cuales nunca son vistos por ojos humanos.

No es sólo texto. Los usuarios de Google han publicado recientemente ejemplos de cómo el motor de búsqueda muestra imágenes generadas por IA. Por ejemplo, una búsqueda del artista estadounidense Edward Hopper arrojó una [imagen de IA al estilo de Hopper](https://www.creativefabrica.com/pt/product/woman-looking-outside-the-window-by- edward-hopper-3/), en lugar de su arte real, como primer resultado.

El auge de la IA ya está perjudicando el negocio de Textbroker, una plataforma de contenidos líder con sede en Alemania y Las Vegas, afirmó Jochen Mebus, director de ingresos de la empresa. Si bien Textbroker se enorgullece de ofrecer textos creíbles escritos por humanos sobre una amplia gama de temas, "la gente está probando contenido automatizado en este momento, y eso ha ralentizado nuestro crecimiento", dijo.

Mebus dijo que la compañía está preparada para perder algunos clientes que sólo buscan ganar un "dólar rápido" con contenido genérico escrito por IA. Pero espera retener a aquellos que desean la seguridad de un toque humano, mientras también capacita a algunos de sus escritores para que sean más productivos empleando ellos mismos herramientas de inteligencia artificial. Dijo que una encuesta reciente de los clientes de la compañía encontró que entre el 30 y el 40 por ciento todavía quiere contenido exclusivamente "manual", mientras que una porción de tamaño similar busca contenido que podría ser generado por IA pero editado por humanos para verificar el tono, los errores y plagio.

"No creo que nadie deba confiar al 100 por ciento en lo que sale de la máquina", dijo Mebus.

Levin dijo que los clientes de Semrush también han descubierto en general que la IA se utiliza mejor como asistente de escritura que como autor único. "Hemos visto personas que incluso intentan automatizar completamente el proceso de creación de contenido", dijo. "No creo que hayan tenido muy buenos resultados con eso. En esta etapa, es necesario tener a un humano al tanto".

Para Cowell, cuyo título de libro parece haber inspirado a un imitador escrito por IA, la experiencia ha disminuido su entusiasmo por escribir.

"Mi preocupación no es tanto perder ventas debido a libros falsos, sino más bien que esta escritura de baja calidad, bajo precio y bajo esfuerzo vaya a tener un efecto paralizador en los humanos que estén considerando escribir libros técnicos especializados en el futuro". él dijo. No ayuda, añadió, sabiendo que "cualquier texto que escriba inevitablemente irá a parar a un sistema de inteligencia artificial que generará aún más competencia".

Amazon eliminó el libro del impostor, junto con muchos otros del mismo editor, después de que The Post se comunicara con la compañía para solicitar comentarios. La portavoz Lindsay Hamilton dijo que Amazon no hace comentarios sobre cuentas individuales y se negó a decir por qué se eliminaron los listados. Los libros escritos con IA no van en contra de las reglas de Amazon, per se, y algunos autores han sido abiertos sobre [usar ChatGPT para escribir libros](https://www.reuters.com/technology/chatgpt-launches-boom-ai-writing -e-books-amazon-2023-02-21/) vendidos en el sitio. (El fundador y presidente ejecutivo de Amazon, Jeff Bezos, es propietario de The Washington Post).

"Amazon evalúa constantemente tecnologías emergentes e innova para brindar una experiencia de compra confiable a nuestros clientes", dijo Hamilton en un comunicado. Agregó que todos los libros deben cumplir con las pautas de contenido de Amazon y que la compañía tiene políticas contra reseñas falsas u otras formas de abuso.

CORRECCIÓN

Una versión anterior de esta historia identificó erróneamente el puesto de trabajo de Eugene Levin. Es el presidente y director de estrategia de Semrush, no su director ejecutivo.