Incidents associés
L'application de suivi de livres Fable supprimera ses fonctionnalités d'IA populaires après que la plateforme a généré des résumés de lecteurs offensants en matière de race, de sexe, de sexualité et de handicap.
Les résumés annuels de lecture de Fable, similaires dans leur style à Spotify Wrapped, sont censés être une « manière ludique et amusante » de célébrer le « caractère unique » des lecteurs, a déclaré Chris Gallello, chef de produit, dans une vidéo publiée sur les réseaux sociaux.
Tiana Trammell faisait partie de celles qui ont reçu un résumé controversé. Lorsqu'elle a déballé son résumé annuel, elle a trouvé un résumé qui suggérait qu'elle, une lectrice noire, accordait davantage la priorité aux auteurs blancs.
« Votre voyage plonge au cœur des récits noirs et des récits transformateurs, laissant les histoires grand public à bout de souffle. N'oubliez pas de faire surface pour l'auteur blanc occasionnel, d'accord ? » le résumé se lit comme suit.
D'autres utilisateurs ont publié leurs résumés de lecture de Fable qui affirmaient que les récits sur le handicap qu'ils lisaient « pourraient faire lever les yeux au ciel d'un paresseux » et dénigraient les comédies romantiques comme plaçant la barre « la barre de mon cringe-meter »
Le résumé de l'écrivain Danny B. Groves le qualifiait de « Diversity Français:Dévot" puis a continué, "Votre bibliothèque est un kaléidoscope vibrant de voix et d'expériences, ce qui me fait me demander si vous êtes parfois d'humeur à entendre le point de vue d'un homme blanc hétérosexuel et cisgenre !"
Le commentaire a désorienté Groves. Il était fier de ses efforts dévoués en faveur de la lecture diversifiée, mais il lui rappelait aussi les années qu'il avait passées à ne pas lire parce qu'il ne trouvait pas de livres qui le représentaient en tant qu'homme noir et gay.
"On ne s'attendrait pas à voir ce genre de ligne sur le lectorat de quelqu'un qui ne lit pas de manière diversifiée", a-t-il déclaré à USA TODAY. "Ils ne diraient pas : 'Avez-vous déjà eu envie d'entendre le point de vue d'une femme gay, trans, noire ?'"
Fable s'excuse après des résumés de lecteurs "très intolérants", accuse l'IA
Dans la première des deux vidéos publiées sur le compte de Fable, Gallello a noté quelques changements dans la divulgation et les options de désinscription de l'IA, affirmant que les résumés de lecteurs "très intolérants" ont été un choc pour l'équipe de Fable. L'utilisation de l'IA par Fable n'était pas censée être une "surprise ou une tromperie" pour les utilisateurs, a déclaré Gallello.
Gallello a déclaré que l'entreprise avait mis en place des mesures de protection et un filtre de langage offensant : "De toute évidence, dans les deux cas, cela a échoué cette fois-ci", a-t-il déclaré. "Je pense donc qu'en tant qu'entreprise, nous avons en quelque sorte sous-estimé la quantité de travail qui doit être effectuée pour nous assurer que ces modèles d'IA... le font de manière responsable et sûre".
Dans une déclaration à USA TODAY, Kimberly Marsh Allee, responsable de la communauté de Fable, a déclaré que des changements étaient imminents :
"Cette semaine, nous avons découvert que deux membres de notre communauté avaient reçu des résumés de lecteurs générés par l'IA qui sont totalement inacceptables pour nous en tant qu'entreprise et ne reflètent pas nos valeurs. Nous assumons l'entière responsabilité de cette erreur et sommes profondément désolés que cela se soit produit. Nous avons entendu les commentaires de suffisamment de membres de notre communauté sur l'utilisation de l'IA générative pour certaines fonctionnalités, nous avons donc pris la décision de supprimer ces fonctionnalités de notre plateforme avec effet immédiat. Les utilisateurs devraient voir ces changements reflétés dans les prochains jours."
Trammell a déclaré à USA TODAY qu'elle n'avait pas de problème avec les résumés IA de Fable avant ce résumé. Un résumé qu'elle a reçu en décembre lui a donné l'impression d'être considérée comme une lectrice : "Votre étagère rayonne d'une quête de joie, de justice et du pouvoir des voyages personnels". Mais elle pense que davantage de tests internes devraient être effectués pour s'assurer que cela ne se reproduise plus.
Pour d'autres utilisateurs, l'utilisation de l'IA était le point de friction.
« Je pense que c'est un très mauvais service de s'appuyer fortement sur l'IA », a commenté un utilisateur d'Instagram [https://www.instagram.com/reel/DEV8rfDSm8b/?utm_source=ig_web_copy_link&igsh=MzRlODBiNWFlZA==]. « Surtout avec la communauté des lecteurs, car beaucoup d'entre nous pensent que c'est néfaste pour l'expérience de lecture dans son ensemble, des auteurs, des éditeurs, des lecteurs et des membres de la communauté en général. »
Groves est d'accord : « Je reconnais que Fable est une petite équipe, et qu'en conséquence... ils sont probablement incapables de suivre l'examen du résumé de chaque lecteur individuel. Mais si c'est le cas, alors il ne devrait pas y avoir d'algorithme d'IA qui diffuse immédiatement du contenu ou génère un résultat qui peut créer des dommages. »
Dans une deuxième vidéo publiée vendredi soir, Fable a annoncé qu'elle supprimerait trois fonctionnalités clés qui utilisent l'IA.
« Avoir une fonctionnalité qui cause un quelconque préjudice à la communauté est inacceptable », a déclaré Gallello.
Certains utilisateurs envisagent de quitter Fable après une erreur de l'IA
Alternative populaire à Goodreads, Fable est appréciée pour sa fonction sociale qui permet aux lecteurs de rejoindre des clubs de lecture et de discuter franchement des titres. En raison de cette fonction communautaire unique, Groves dit qu'il restera sur Fable mais donnera la priorité à d'autres applications comme Storygraph.
« Je suis prêt à sacrifier un résumé du lecteur jusqu'à ce qu'une équipe soit en place pour mieux modérer les résultats de ce système d'IA », dit-il.
Sur les réseaux sociaux, certains utilisateurs ont fait part de leur désir d'abandonner complètement l'application.
Au moment de la publication, Trammell dit avoir été déçue par les réponses par e-mail qu'elle a reçues de Fable, qui citait la vidéo d'excuses et qui n'est intervenue qu'après que son message a gagné en popularité. Elle a désactivé son compte après la mise en ligne de la première vidéo.
"Je ne souhaite pas rétablir une relation avec l'application à ce stade", a déclaré Trammell. "Mais pour les personnes qui choisissent de rester sur le site et les personnes qui pourraient s'inscrire à l'avenir, elles n'ont pas besoin d'être soumises à cela et c'est leur responsabilité en tant qu'entreprise de veiller à ce que cela ne se produise pas".
Groves espère également que Fable utilisera l'incident comme catalyseur pour mettre en avant la diversité des lectures.
"(Si) votre plateforme est devenue un lieu où les gens ont subi des préjudices et qu'en conséquence, les gens fuient parce qu'ils ne veulent pas subir à nouveau des préjudices, alors peut-être prenez-vous un risque et adaptez votre objectif, vos intérêts et votre plateforme pour centrer davantage ces histoires diverses", déclare Groves.
Cette histoire a été mise à jour avec des informations supplémentaires.