Incidentes Asociados
La aplicación de seguimiento de libros Fable eliminará sus populares funciones de inteligencia artificial después de que la plataforma generara algunos resúmenes de lectores que eran ofensivos para la raza, el género, la sexualidad y la discapacidad.
Los resúmenes de lectura anuales de Fable, similares en estilo a Spotify Wrapped, tienen como objetivo ser una "forma divertida y lúdica" de celebrar la "singularidad" de los lectores, dijo Chris Gallello, director de producto, en un video publicado en las redes sociales.
Tiana Trammell estuvo entre quienes recibieron un resumen controvertido. Cuando abrió su sinopsis anual, encontró un resumen que sugería que ella, una lectora negra, prioriza más a los autores blancos.
"Tu viaje se adentra en el corazón de las narrativas negras y los relatos transformadores, dejando a las historias convencionales sin aliento. No te olvides de buscar ocasionalmente a un autor blanco, ¿de acuerdo?" dice el resumen.
Otros usuarios han publicado sus resúmenes de lectores de Fable que decían que las narrativas sobre discapacidad que leían "podrían hacer que un perezoso pusiera los ojos en blanco" y que menospreciaban las lecturas de comedias románticas por poner "el listón de mi medidor de vergüenza"
El resumen del escritor Danny B. Groves lo llamó un "diversista "Devoto" y luego continuó: "Tu estantería es un caleidoscopio vibrante de voces y experiencias, ¡lo que me hace preguntarme si alguna vez estás de humor para la perspectiva de un hombre blanco, heterosexual y cis!".
El comentario fue desconcertante para Groves. Se sintió orgulloso por su esfuerzo dedicado a la lectura diversa, pero también recordó los años que pasó sin leer porque no podía encontrar libros que lo representaran como un hombre negro y gay.
"No esperarías ver ese tipo de línea en los lectores de alguien que no lee de manera diversa", le dice a USA TODAY. "No decían '¿Alguna vez estás de humor para escuchar la perspectiva de una mujer negra, trans o gay?'"
Fable se disculpa después de los resúmenes de lectores "muy intolerantes" y culpa a la IA
En el primero de los dos videos publicados en la cuenta de Fable, Gallello señaló algunos cambios en la divulgación y las opciones de exclusión de la IA, y dijo que los resúmenes de lectores "muy intolerantes" fueron una sorpresa para el equipo de Fable. El uso de la IA por parte de Fable no tenía la intención de ser una "sorpresa o engañosa" para los usuarios, dijo Gallello.
Gallello dijo que la empresa había implementado salvaguardas y un filtro de lenguaje ofensivo: "Claramente, en ambos casos, eso falló esta vez", dijo. "Por lo tanto, creo que, como empresa, subestimamos un poco la cantidad de trabajo que se necesita hacer para asegurarnos de que estos modelos de IA... estén haciendo esto de una manera responsable y segura".
En una declaración a USA TODAY, Kimberly Marsh Allee, directora de la comunidad de Fable, dijo que los cambios son inminentes:
"Esta semana, descubrimos que dos de los miembros de nuestra comunidad recibieron resúmenes de lectores generados por IA que son completamente inaceptables para nosotros como empresa y no reflejan nuestros valores. Asumimos la responsabilidad total de este error y lamentamos profundamente que esto haya sucedido. Hemos escuchado comentarios de suficientes miembros de nuestra comunidad sobre el uso de IA generativa para ciertas funciones, por lo que hemos tomado la decisión de eliminar estas funciones de nuestra plataforma de manera inmediata. Los usuarios deberían ver esos cambios reflejados en los próximos días".
Trammell le dijo a USA TODAY que no tenía ningún problema con los resúmenes de IA de Fable antes de este resumen. Uno que recibió en diciembre la hizo sentir vista como lectora: "Su estantería irradia una búsqueda de alegría, justicia y el poder de los viajes personales". Pero cree que se deben realizar más pruebas internas para asegurarse de que esto no vuelva a suceder.
Para otros usuarios, el uso de IA fue el punto de fricción.
"Creo que depender en exceso de la IA es un gran perjuicio", comentó un usuario de Instagram. "Especialmente con la comunidad de lectores, ya que muchos de nosotros pensamos que es perjudicial para toda la experiencia de lectura, desde los autores, editores, lectores y miembros de la comunidad en general".
Grove está de acuerdo: "Reconozco que Fable es un equipo pequeño y, como resultado de eso... es probable que no puedan mantenerse al día con la revisión del resumen de cada lector individual. Pero si ese es el caso, entonces no debería haber un algoritmo de IA que esté enviando contenido de inmediato o generando un resultado que pueda crear daño".
En un segundo video publicado el viernes por la noche, Fable dijo que eliminaría tres funciones clave que utilizan IA.
"Tener una función que haga algún tipo de daño en la comunidad es inaceptable", dijo Gallello.
Algunos usuarios consideran abandonar Fable después del error de IA
Fable, una alternativa popular a Goodreads, es querida por su función social que permite a los lectores unirse a clubes de lectura y charlar con franqueza sobre los títulos. Debido a la función única de la comunidad, Groves dice que se quedará en Fable, pero priorizará otras aplicaciones como Storygraph.
"Estoy dispuesto a sacrificar un resumen del lector hasta que haya un equipo en su lugar que pueda moderar mejor los resultados de este sistema de IA", dice.
En las redes sociales, algunos usuarios han compartido su deseo de abandonar la aplicación por completo.
En el momento de la publicación, Trammell dice que se ha sentido decepcionada con las respuestas por correo electrónico que ha recibido de Fable, que citaban el video de disculpa y que solo se produjo después de que su publicación ganara fuerza. Desactivó su cuenta después de que se publicara el primer video.
"No deseo restablecer una relación con la aplicación en este momento", dijo Trammell. "Pero las personas que optan por permanecer en el sitio y las personas que en el futuro puedan registrarse, no necesitan estar sujetas a eso y es su responsabilidad como empresa asegurarse de que eso no suceda".
Groves también espera que Fable use el incidente como un catalizador para destacar la lectura diversa.
"(Si) su plataforma se ha convertido en un lugar donde las personas han experimentado daños y, como resultado de eso, las personas huyen porque no quieren experimentar daños nuevamente, entonces tal vez tome un riesgo y adapte su enfoque, sus intereses y su plataforma para centrar más en esas historias diversas", dice Groves.
Esta historia ha sido actualizada con información adicional.