Incidentes Asociados
La semana pasada, informamos que el destacado sitio de noticias sobre tecnología CNET había estado publicando silenciosamente artículos generados por un "motor de IA" no especificado. "
La noticia desencadenó indignación. Los críticos señalaron que el experimento parecía un intento de eliminar el trabajo de los escritores principiantes y que la precisión de los generadores de texto de IA de generación actual es [notoriamente pobre] (https://mashable.com/article/chatgpt-amazing- equivocado). El hecho de que CNET nunca anunciara públicamente el programa, y que la revelación de que las publicaciones fueron escritas por bots se ocultara detrás de una línea que sonaba humana, "Personal de dinero de CNET", hizo que pareciera que el medio estaba tratando de camuflar la provocación. iniciativa del escrutinio.
Después de la protesta, la editora en jefe de _CNET, Connie Guglielmo, reconoció los artículos escritos por AI [en una publicación] (https://www.cnet.com/tech/cnet-is-experimenting-with-an-ai-assist- heres-why/) que celebró la reputación de CNET de "ser transparente".
Sin reconocer las críticas, Guglielmo escribió que la publicación estaba cambiando el pie de autor de sus artículos generados por IA de "CNET Money Staff" a simplemente "CNET Money", además de hacer que la divulgación fuera más prominente.
Además, prometió, cada historia publicada bajo el programa había sido "revisada, verificada y editada por un editor con experiencia en el tema antes de publicar".
Eso tal ves sea el caso. Pero no pudimos evitar notar que uno de los mismos artículos generados por IA que Guglielmo destacó en su publicación comete una serie de errores estúpidos que arrastran el concepto de reemplazar escritores humanos con IA a la tierra.
Tome esta sección en [el artículo] (https://archive.is/aWnq5), que es una explicación básica sobre el interés compuesto (énfasis nuestro):
"Para calcular el interés compuesto, utilice la siguiente fórmula:
_Saldo inicial (1+ tasa de interés / número de períodos de capitalización) ^ número de capitalizaciones por período x número de períodos _
Por ejemplo, si deposita $10,000 en una cuenta de ahorros que gana un 3% de interés compuesto anualmente, ganará $10,300 al final del primer año."
Suena autoritario, pero está mal. En realidad, por supuesto, la persona que describe la IA ganaría solo $ 300 durante el primer año. Es cierto que el valor total de su capital más su interés totalizaría $10,300, pero eso es muy diferente de las ganancias: el capital es dinero que el inversionista ya había acumulado antes de ponerlo en una cuenta que devenga intereses.
"Simplemente no es correcto, o una práctica común, decir que ha 'ganado' tanto la suma principal como el interés", nos dijo Michael Dowling, decano asociado y profesor de finanzas en la Escuela de Negocios de la Universidad Dublin College, sobre el AI. -artículo generado.
Es un error tonto, y muchas personas con conocimientos financieros tendrían el sentido común de no tomarlo al pie de la letra. Pero, de nuevo, el artículo está escrito en un nivel tan básico que realmente solo sería de interés para aquellos con muy poca información sobre finanzas personales en primer lugar, por lo que parece correr el riesgo de proporcionar expectativas muy poco realistas, afirmando que usted podría ganar $ 10,300 en un año con una inversión de $ 10,000, para los lectores exactos que no saben lo suficiente como para ser escépticos.
Otro error en el artículo involucra la descripción de la IA de cómo funcionan los préstamos. Esto es lo que escribió (nuevamente, énfasis nuestro):
"Con hipotecas, préstamos para automóviles y préstamos personales, el interés generalmente se calcula en términos simples.
Por ejemplo, si solicita un préstamo de automóvil por $25,000 y su tasa de interés es del 4%, pagará un interés fijo de $1,000 por año".
Nuevamente, la IA está escribiendo con el garbo de un asesor financiero experto. Pero como sabría un experto humano, está cometiendo otro error ignorante.
Lo que está fallando esta vez es que la forma en que se estructuran típicamente las hipotecas y los préstamos para automóviles, el prestatario no paga una cantidad fija de interés por año, o incluso por pago mensual. En cambio, en cada pago sucesivo deben intereses solo sobre el saldo restante. Eso significa que hacia el comienzo del préstamo, el prestatario paga más intereses y menos capital, lo que se revierte gradualmente a medida que continúan los pagos.
Es fácil ilustrar el error ingresando los detalles del escenario hipotético de CNET AI (un préstamo de $ 25,000 con una tasa de interés del 4 por ciento) en una [calculadora de amortización de préstamos para automóviles] (https://www.nerdwallet.com/article/loans /auto-loans/auto-loan-amortization-calculator). ¿El resultado? Al contrario de lo que afirmó AI, nunca hay un año en el que el prestatario pague $ 1,000 completos, ya que comienzan a reducir el saldo en su primer pago.
La IA de CNET está "absolutamente" equivocada en la forma en que describe los pagos de los préstamos, dijo Dowling.
"Simplemente no es el caso de que serían $ 1,000 por año en intereses", dijo, "ya que el saldo del préstamo se reduce cada año y solo paga intereses sobre el saldo pendiente".
El problema con esta descripción no es solo que sea incorrecta. Es que la IA está ocultando una realidad importante sobre muchos préstamos: si los paga más rápido, terminará pagando menos intereses en el futuro. En otras palabras, está brindando terribles consejos financieros directamente a las personas que intentan mejorar su comprensión.
La IA cometió otro error cuando intentó describir los certificados de depósito, más conocidos como CD, que son productos financieros que ofrecen intereses, pero que generalmente desalientan el retiro de los fondos antes de que haya transcurrido un período determinado (una vez más, énfasis nuestro):
"Tenga en cuenta que una cuenta de ahorros de alto rendimiento o una cuenta de mercado monetario puede ofrecer intereses que se capitalizan diariamente, semanalmente o mensualmente. Pero un certificado de depósito a un año solo se capitaliza una vez, después de que el depósito inicial alcanza el vencimiento".
Este es simplemente falso. Por ejemplo, [aquí hay un CD de un año de Chase Bank] (https://www.chase.com/personal/savings/bank-cd) que se capitaliza diariamente. Y aquí hay uno de Capital One que se acumula mensualmente.
Los tres errores, cada uno de los cuales la IA presentó con la autoridad fácil de un experto en la materia real, resaltan un problema central con los generadores de texto de IA de generación actual: si bien son legítimamente impresionantes al escupir [prosa simplista, que suena real] (https://www.scientificamerican.com/article/research-summaries-write-by-ai-fool-scientists/), tienen un [momento notoriamente difícil] (https://undark.org/2023/01/ 07/entrevista-una-conversación-sobre-la-verdad-y-la-ficción-con-chatgpt/) distinguiendo la realidad de la ficción.
Para un editor, eso seguramente planteará un problema. Una cosa es trabajar con un escritor que hace todo lo posible para producir un trabajo preciso, pero otra muy distinta es salpicar sus borradores con errores y adornos casuales. BuzzFeed News ilustró perfectamente ese riesgo esta semana, cuando un reportero usó ChatGPT para generar una historia sobre el uso secreto de IA por parte de CNET, solo para descubrir que "tuvo que reescribir el mensaje varias veces para que dejara de insertar errores de hecho".
Otro problema que puede estar en juego aquí es bien conocido en el campo separado de los automóviles autónomos influidos por la IA. Los investigadores han encontrado que los conductores de seguridad humana, encargados de sentarse al volante de un vehículo autónomo para tomar el control si falla, tienden a perder rápidamente el enfoque cuando no tienen que manejar activamente los controles. La misma dinámica puede estar en juego cuando se pone a un editor a cargo de aprobar una avalancha de explicaciones generadas por IA: frente a la interminable escritura sintética, tal vez tenga sentido que los editores humanos comiencen a funcionar ellos mismos en piloto automático.
Todo el mundo comete errores, por lo que sin duda somos comprensivos. Pero en estos primeros días del experimento de IA de CNET, no importa en un artículo publicado el mismo día en que el editor del sitio se hizo público en respuesta a una tormenta de críticas, uno esperaría que los editores encargados de monitorear la IA estuvieran en alerta máxima.
Si estos son los tipos de errores que se escapan durante ese período de escrutinio máximo, ¿qué debemos esperar cuando no hay tantos ojos en el trabajo de la IA? ¿Y qué pasa cuando los imitadores ven que _CNET _se está saliendo con la suya y comienzan a llenar la web con su propio contenido generado por IA, con aún menos escrúpulos?
También vale la pena preguntar qué quieren realmente los lectores: consejos financieros de un ser humano real con preocupaciones financieras reales, o logorrea de un bot que ha sido entrenado para repetir los escritos financieros existentes sin ningún interés financiero propio.
Dowling dijo que si bien es optimista sobre el potencial de la IA en general, sospecha que un algoritmo como la falta de perspectiva personal de CNET o "percepciones que van más allá del mero resumen" evitará que produzca un trabajo realmente interesante.
"La gente ya se acerca a la lectura de finanzas con una sensación avanzada de aburrimiento y desgana. ¿ChatGPT simplemente incorporará esas características negativas aún más en la redacción de finanzas?" preguntó.
Después de que Futurism se comunicó con CNET sobre los errores, el personal emitió una extensa corrección al artículo y editó el texto para abordar los tres errores_._
El personal de _CNET _también aparentemente identificó un cuarto error de la IA, que también describieron en la corrección, con respecto a la distinción entre la tasa de porcentaje anual (APR) y el rendimiento de porcentaje anual (APY).
Un portavoz de CNET proporcionó a Futurism una breve declaración sobre las correcciones.
"Estamos revisando activamente todas nuestras piezas asistidas por IA para asegurarnos de que no haya más imprecisiones en el proceso de edición, ya que los humanos también cometen errores", dijeron. "Continuaremos emitiendo las correcciones necesarias de acuerdo con la política de correcciones de CNET".
El portavoz no respondió a una pregunta sobre la confianza de CNET en los otros artículos que AI ha publicado en su sitio. Sin embargo, después de que nos comunicamos, apareció un nuevo mensaje en la parte superior de casi todos los artículos que la IA ha publicado, desde noviembre.
"Nota de los editores: actualmente estamos revisando esta historia para verificar su precisión", se lee en el mensaje. "Si encontramos errores, actualizaremos y emitiremos correcciones".
Vale la pena señalar, como Casey Newton de Platformer hizo esta semana, que los artículos financieros generados por IA de CNET posiblemente solo existen en el primer lugar porque están tratando de manipular el algoritmo de Google para obtener ganancias. Ya existen innumerables explicaciones mejores del interés compuesto; La estrategia de CNET es simplemente publicar grandes volúmenes de texto producido a bajo costo, cuidadosamente optimizado para flotar en la parte superior de los resultados de búsqueda, en un intento por capturar los ojos monetizables de los curiosos financieros.
"Con el tiempo, deberíamos esperar que más sitios web de consumidores presenten este tipo de material 'gris': la escritura de IA lo suficientemente buena, revisada ligeramente (pero no siempre) por editores humanos, se hará cargo de la publicación digital tanto como los lectores toleren, ", escribió Newton. "La difusión silenciosa de las vides AI kudzu a través de CNET es un desarrollo sombrío para el periodismo, ya que una mayor parte del trabajo que antes estaba reservado para los escritores principiantes que construyen sus currículums se automatiza rápidamente".
En otras palabras, no es solo la IA el problema aquí. Es que la IA está madurando en un momento en que la industria del periodismo ya ha sido vaciada por una carrera de décadas hacia el abismo, una tormenta perfecta para los jefes de los medios ansiosos por recortar los fondos para los escritores humanos.