書籍追跡アプリ Fable は、人種、性別、性的指向、障害に対して不快感を与える読者向け要約をプラットフォームが生成したことを受けて、人気の AI 機能を削除する予定。
Fable の年間読書概要は、Spotify Wrapped と似たスタイルで、読者の「ユニークさ」を「遊び心のある楽しい方法」で称えることを目的としていると、製品責任者のクリス・ガレロ氏は ソーシャルメディアに投稿した動画 で述べ た。
ティアナ・トラメルは物議を醸す概要を受け取った人の 1 人だった。彼女が年間概要を開封すると、黒人読者である彼女が白人作家をより優先することを示唆する概要が見つかった。
「あなたの旅は、黒人の物語と変革の物語の核心に深く入り込み、主流の物語を息もつかせません。たまに白人の著者が浮上するのを忘れないでくださいね？」要約。
他のユーザーは、Fable の読者の要約を投稿し、自分が読んだ障害の物語は 「ナマケモノから呆れられるかもしれない」 と述べ、ロマンティック コメディーは 「私の恥ずかしさの基準」 と軽蔑している。
作家のダニー B. グローブスによる要約 彼を「多様性のDevotee" は続けて、「あなたの本棚は声と経験の鮮やかな万華鏡です。ストレートなシスジェンダーの白人男性の視点を読みたい気分になったことがあるのかと疑問に思います！」とコメントした。
グローブス氏はこのコメントに混乱した。多様な読書への献身的な努力に誇りを感じたが、黒人のゲイ男性としての自分を表現する本が見つからず、読書をしていなかった年月を思い起こさせた。
「多様な読書をしない人の読者層に、そのような線引きがあるとは思わないでしょう」と、同氏は USA TODAY に語った。 「彼らは『ゲイ、トランスジェ ンダー、黒人女性の視点に興味がありますか？』とは言わないだろう」
Fable が「非常に偏見に満ちた」読者の要約を受けて謝罪、AI を非難
Fable のアカウントに投稿された 2 つの動画のうち最初の動画で、ガレロ氏は AI の開示とオプトアウトに関する変更点を指摘し、「非常に偏見に満ちた」読者の要約は Fable チームにとって衝撃だったと述べた。Fable の AI の使用は、ユーザーを「驚かせたり欺いたり」することを意図したものではないとガレロ氏は述べた。
ガレロ氏は、同社が安全策と不快な言葉のフィルターを実装したと述べた。「明らかに、どちらの場合も今回は失敗しました」と同氏は述べた。「ですから、企業として、これらの AI モデルが責任を持って安全に機能していることを確認するために、どれだけの作業が必要かを過小評価していたと思います」
Fable のコミュニティ責任者である Kimberly Marsh Allee 氏は、USA TODAY への声明で、変更が差し迫っていると述べた。
「今週、コミュニティ メンバー 2 名が AI 生成の読者要約を受け取っていることが判明しましたが、これは企業として当社にとってまったく受け入れられず、当社の価値観を反映していません。当社はこのミスの責任を完全に負い、このような事態が発生したことを深くお詫び申し上げます。コミュニティ メンバーから、特定の機能で生成 AI を使用していることについて十分なフィードバックをいただいたため、これらの機能をプラットフォームから即時削除することを決定しました。ユーザーは、今後数日でこれらの変更が反映されるのを確認できるはずです。」
Trammell 氏は USA TODAY に対し、この要約を受ける前は Fable の AI 要約に問題を感じていなかったと語った。12 月に受け取った要約は、読者として認められていると感じさせてくれた。「あなたの本棚は、喜び、正義、そして個人的な旅の力を求める気持ちで満ち溢れています。」しかし、彼女は、このようなことが二度と起こらないように、より多くの社内テストを行う必要があると考えている。
他のユーザーにとっては、AI の使用が問題だった。 「AIに大きく依存するのは、非常に不利益だと思います」と、あるInstagramユーザーがコメントしました。「特に読者コミュニティでは、著者、編集者、読者、一般のコミュニティメンバーに至るまで、読書体験全体に悪影響を与えると多くの人が考えているからです。」
グローブス氏も同意します。「Fableは小さなチームであり、その結果、各個人の読者概要のレビューに追いつくことができない可能性が高いことは承知しています。しかし、そうだとすれば、コンテンツをすぐにプッシュしたり、害を及ぼす可能性のある出力を生成したりするAIアルゴリズムは存在すべきではありません。」
金曜日の夕方に投稿された 2 番目の動画 で、Fable は AI を利用する 3 つの主要機能を削除すると述べました。
「コミュニティに何らかの害を及ぼす機能があることは容認できません」と Gallello 氏は述べました。
AI の失態の後、一部のユーザーは Fable からの退会を検討しています
Goodreads に代わる人気の高い Fable は、読者 が読書クラブに参加したり、タイトルについて率直にチャットしたりできるソーシャル機能で人気があります。このユニークなコミュニティ機能のため、Groves 氏は Fable に留まるものの、Storygraph などの他のアプリを優先すると語っています。
「この AI システムからの出力をより適切に管理できるチームが整うまで、読者向け要約を犠牲にしてもかまいません」と同氏は言います。
ソーシャルメディア上では、アプリを完全にやめたいというユーザーもいる。
この記事の公開時点で、トラメル氏は、謝罪動画を引用し、投稿が注目を集めた後にのみ行われたフェイブルからのメール返信に失望していると述べている。彼女は最初の動画が公開された後、アカウントを無効にした。
「現時点ではアプリとの関係を修復したいとは思っていません」とトラメル氏は述べた。「しかし、サイトに留まることを選んだ人々や将来サインアップするかもしれない人々は、そのようなことをされる必要はありません。そのようなことが起こらないようにするのは企業としての責任です。」
グローブス氏はまた、フェイブルがこの事件をきっかけに多様な読書を強調することを期待している。
「もしあなたのプラットフォームが、人々が被害を受ける場所となり、その結果、再び被害を受けたくないという理由で人々が逃げ出しているのであれば、リスクを冒して焦点、関心、プラットフォームを調整し、より多様なストーリーを中心に据えた方が良いかもしれません」とグローブス氏は言う。
この記事は追加情報で更新されました。