Incidentes Asociados
Cuando los detectives de Internet descubrieron la semana pasada que CNET había publicado silenciosamente docenas de artículos generados completamente por inteligencia artificial, el popular sitio de tecnología reconoció que era cierto, pero describió el movimiento como un mero experimento.
Ahora, sin embargo, en un escenario familiar para cualquier fanático de la ciencia ficción, el experimento parece haberse vuelto loco: los bots han traicionado a los humanos.
Específicamente, resulta que los bots no son mejores en el periodismo, y quizás un poco peor, que sus posibles maestros humanos.
El martes, CNET comenzó a agregar extensos avisos de corrección a algunos de sus artículos generados por IA después de que Futurismo, otro sitio de tecnología, denunciara las historias por contener algo "muy errores tontos".
Un artículo automatizado sobre el interés compuesto, por ejemplo, decía incorrectamente que un depósito de $10 000 con un interés del 3 por ciento generaría $10 300 después del primer año. No. Tal depósito en realidad ganaría solo $ 300.
En términos más generales, CNET y la publicación hermana Bankrate, que también ha publicado historias escritas por bots, ahora han revelado dudas sobre la precisión de las docenas de artículos automatizados que han publicado desde noviembre.
Nuevos avisos adjuntos a varios otros trabajos generados por IA [indican que](https://www.cnet.com/personal-finance/banking/what-is-overdraft-protection-and-do-you-need-it /) "actualmente estamos revisando esta historia para verificar su precisión" y que "si encontramos errores, actualizaremos y publicaremos correcciones".
Se ha implementado inteligencia artificial para manejar el reconocimiento facial, recomendar películas y completar automáticamente su escritura. Sin embargo, la noticia de que CNET lo había estado usando para generar historias completas envió una oleada de ansiedad a través de los medios de comunicación por su aparente amenaza para los periodistas. El ChatGPT (https://openai.com/blog/chatgpt/), con cerebro de robot pero conversacional, puede producir copias sin almuerzo ni pausas para ir al baño y nunca hace huelga.
Hasta la semana pasada, CNET había atribuido tímidamente sus historias escritas a máquina a "CNET Money Staff". Solo al hacer clic en el pie de autor, el lector se enteraría de que el artículo fue producido por "tecnología de automatización", en sí misma un eufemismo de IA.
La empresa se sinceró después de que un ejecutivo de marketing de ojos agudos llamado Gael Breton llamara la atención sobre las etiquetas en Twitter. Posteriormente, CNET cambió las líneas de autor a "CNET Money", agregó algunas aclaraciones ("este artículo fue asistido por un motor de inteligencia artificial") y estipuló además que las historias fueron "completamente editadas y verificadas por un editor de nuestro equipo editorial".
Si eso es cierto, "entonces esto es principalmente una falla editorial", dijo Hany Farid, profesor de ingeniería eléctrica y ciencias de la computación en la Universidad de California en Berkeley y experto en tecnologías deepfake.
"Me pregunto si la voz aparentemente autoritaria de la IA llevó a los editores a bajar la guardia", agregó, "y [fueron] menos cuidadosos de lo que podrían haber sido con la escritura de un periodista humano".
La copia escrita por robots de CNET es generalmente indistinguible del tipo producido por humanos, aunque no es exactamente ágil o brillante. Es, bueno, robótico: útil pero laborioso, lleno de clichés, carente de humor o descaro o cualquier cosa que se parezca a emociones o idiosincrasias.
"La elección entre un banco y una cooperativa de crédito no es igual para todos", [lee una historia escrita por IA ](https://www.cnet.com/personal-finance/banking/difference- between-bank -y-credit-union/) publicado por CNET en diciembre. "Tendrá que sopesar los pros y los contras de sus objetivos para determinar su mejor ajuste".
Aconseja otra historia escrita por bot: "Cuanto más tiempo deje su inversión en una cuenta de ahorros o mercado monetario cuenta, más tiempo tendrá para aprovechar el poder de la capitalización".
Otro material de los bots de CNET incluye historias como "[¿Debería romper un CD anticipado para obtener una mejor tasa?] (https://www.cnet.com/personal-finance/banking/should-you-break-a-cd- Early-for-a-better-rate/)" y "[¿Qué es Zelle y cómo funciona?](https://www.cnet.com/personal-finance/banking/what-is-zelle-and- como funciona/)"
El despliegue de la tecnología se produce en medio de una creciente preocupación por los usos y posibles abusos de los sofisticados motores de IA. Las asombrosas capacidades de la tecnología han llevado a algunos distritos escolares a considerar prohibirla para que los estudiantes no usen para tomar atajos en las tareas de clase y tareas.
En una declaración publicada la semana pasada, la editora de CNET, Connie Guglielmo, llamó a su sitio uso de la IA "un experimento" destinado no a reemplazar a los reporteros sino a ayudarlos en su trabajo. "El objetivo es ver si la tecnología puede ayudar a nuestro ocupado personal de reporteros y editores con su trabajo para cubrir temas desde una perspectiva de 360 grados", escribió. Guglielmo no respondió a una solicitud de comentarios.
Bankrate y CNET dijeron en un comunicado el martes que las publicaciones están "revisando activamente todas nuestras piezas asistidas por IA para asegurarse de que no haya más imprecisiones en el proceso de edición, ya que los humanos también cometen errores. Continuaremos emitiendo las correcciones necesarias". ."
Incluso antes del gran experimento de CNET, otras organizaciones de noticias habían utilizado la automatización en una capacidad más limitada para aumentar y analizar su trabajo. The Associated Press comenzó a usar IA en 2014 para producir historias de ganancias corporativas. También ha utilizado la tecnología para resúmenes deportivos.
Pero el sistema de AP es relativamente rudimentario: esencialmente inserta nueva información en historias preformateadas, como un juego de Mad Libs, en comparación con la creación automática de artículos de largometraje de CNET.
Otros han creado herramientas internas para evaluar el trabajo humano, como un bot del Financial Times que verifica si sus historias [citan demasiados hombres] (https://www.theguardian.com/media/2018/nov/14/financial -times-tool-warns-if-articles-quote-too-many-men) El Consorcio Internacional de Periodistas de Investigación ha liberado a AI en millones de páginas de documentos financieros y legales filtrados para identificar detalles que merecen una mirada más cercana por parte de sus reporteros. .
Más allá de los informes defectuosos, las historias escritas por IA plantean algunas preguntas prácticas y éticas que los periodistas apenas comienzan a reflexionar.
Uno es el plagio: el escritor Alex Kantrowitz encontró la semana pasada que una publicación de Substack escrita por un autor misterioso llamado Petra contenía frases y oraciones extraídas de una columna que Kantrowitz había publicado dos días antes. Más tarde descubrió que Petra había usado programas de inteligencia artificial para "remezclar" contenido de otras fuentes.
Después de todo, dado que los programas de IA ensamblan artículos a través de montañas de información disponible públicamente, incluso las mejores historias automatizadas son esencialmente recortes, sin nuevos hallazgos o informes originales.
“Estas herramientas no pueden salir e informar o hacer preguntas”, dijo Matt MacVey, quien dirige un proyecto de inteligencia artificial y noticias locales en el NYC Media Lab de la Universidad de Nueva York. Por lo tanto, sus historias nunca abrirán nuevos caminos ni entregarán una primicia.
Sin embargo, el mayor temor sobre la IA entre los periodistas es si representa una amenaza existencial. El empleo en los medios de comunicación ha estado reduciéndose durante décadas , y las máquinas solo pueden acelerar el problema.
"Esta es, quizás, la historia clásica de la automatización que reduce la necesidad de mano de obra humana y/o cambia la naturaleza de la mano de obra humana", dijo Farid. "La diferencia ahora es que la automatización no está interrumpiendo el trabajo manual, sino que está interrumpiendo el trabajo altamente creativo que se pensaba que estaba fuera del alcance de la automatización".
Los trolls de las redes sociales se han burlado durante mucho tiempo de los reporteros recién despedidos con el epíteto "Aprende a codificar". A pesar de las fallas evidentes, el auge de los reportajes de IA sugiere que los códigos que se están creando podrían algún día ser lo que saque a los periodistas de sus salas de redacción.