本について語り、追跡するための人気アプリであるFableは、人工知能モデルが不快な言葉を使ったという苦情を受けて、ユーザー向けにパーソナライズされた要約を作成する方法を変更しています。
ある要約では、黒人の物語を読む読者は白人の著者の作品も読むべきだと示唆していました。
今週のInstagramの投稿で、Fableの製品責任者であるChris Gallelloは、アプリ上でAIが生成した要約の問題について言及し、「非常に偏見に満ちた人種差別的な言葉」に関する苦情がFableに寄せられ始め、それは私たちにとって衝撃的でした、と述べました。
同氏は例を挙げなかったが、少なくともFableの読者1人がThreadsにスクリーンショットとして投稿した要約に 言及していたようだ。その要約では、読者のティアナ・トラメル氏が選んだ本がまとめられ、「あなたの旅は黒人の物語と変革の物語の核心に深く入り込み、主流の物語は息を切らしています。たまに白人の著者が浮上するのを忘れないでくださいね」と書かれていた。
Fableは投稿のコメント欄で返答し、チームが問題解決に取り組むと述べた。インスタグラムでのより長い声明で、ガレロ氏は同社が安全策を導入すると述べた。これには、要約が人工知能によって生成されたことの開示、要約をオプトアウトする機能、潜在的な問題をアプリに警告するサムズダウンボタンなどが含まれていた。
デトロイトに住むトラメルさんは、読書を追跡するために10月にFableをダウンロードした。クリスマスの頃、彼女はクリスマスに関連した要約を促される本を読んでいた。しかし新年を迎える直前、彼女は黒人作家による本を3冊読み終えた。
12月29日、トラメルさんはフェイブルの要約を見て愕然とした。「『私が見ているのはこんなものじゃない。明らかに何かが足りない』と思った」と彼女は金曜日のインタビューで語った。彼女はその要約を読書クラブの仲間やフェイブルで共有した。そこでは、他の人たちも自分たちが受け取ったり見たりした不快な要約を共有していた。
障害者に関する本を読んだある人は、彼女の選択は「ナマケモノから呆れられるかもしれない」と言われた。別の人は、読者の本を見て「ストレートなシスジェンダーの白人男性の視点を読みたい気分になったことがあるのかと疑問に思う」と語った。
ガレロ氏は、AIモデルは本の説明から「面白い文章を1つか2つ」 作成することを目的としていたが、読者にとって「安全な場所」となるはずだった場所で、結果の一部は「不快」なものだったと述べた。同氏は、不快な言葉やトピックをフィルタリングしても不快なコンテンツは阻止できなかったと付け加えた。
Fableのコミュニティ責任者であるキム・マーシュ・アリー氏は金曜日の電子メールで、2人のユーザーが「会社として当社にとって全く受け入れられず、当社の価値観を反映していない」要約を受け取ったと述べた。
同氏は、要約や年末の読書まとめなど、AIを使用するすべての機能が削除され、新しいアプリバージョンがアプリストアに提出されていると述べた。
AIの使用は、宗教団体や報道機関を含む多くのコミュニティで、独立した時間節約型の、しかし潜在的に問題のある発言となっている。 AI が書籍の世界に参入 というフェイブルの行動は、倫理的な行動に必要な出来事や言語の微妙な解釈をナビゲートするテクノロジーの能力、あるいはその失敗を浮き彫りにしている。
また、従業員はコンテンツを公開する前に AI モデルの作業をどの程度チェックすべきかという問題も提起している。一部の公立図書館は、アプリを使用してオンライン読書クラブを作成している。カリフォルニア州では、サンマテオ郡の公立図書館が図書館カードを通じてプレミアム Fable アプリへのアクセス権 を提供しました。
Fable、Goodreads、The StoryGraph などのアプリは、オンライン読書クラブや、おすすめ、読書リスト、ジャンルの好みを共有する人気のフォーラムとなっています。
一部の読者はオンラインで Fable に反応し、他の書籍追跡アプリに切り替えたり、書かれた言葉を通じて人間の創造性を称賛し、増幅することを目的としたフォーラムで人工知能を使用することを批判したりしました。
「プロのコピーライターを雇って、読者の性格に関する要約を一定数書いてもらい、公開前に承認すればいい。200万人のユーザーには『個別に調整された』皮肉な要約は必要ない」と、ある読者はフェイブルの声明に応えて述べた。
ソーシャルメディアでこの論争について知った別の読者は、AIモデルは「黒人を大文字にして白人を大文字にしないことは知っていた」が、それでも人種差別的なコンテンツを生成したと指摘した。
彼女は、AI技術の開発者の一部が「抑圧のシステムや差別的な見方を打破するためにこれらの概念をどのように適用するかについて、より深い理解が欠けている」ことを示していると付け加えた。
ガレロ氏は、フェイブルは深く謝罪したと述べた。「これは私たちが望んでいることではなく、十分な努力をしていないことを示しています」と同氏は述べ、フェイブルは信頼を取り戻したいと付け加えた。
要約を受け取った後、トラメル氏はアプリを削除した。
「私は自分の人種以外のものは読まないという思い込みでした」と彼女は述べた。 「そして、それが私の特権でないなら、私は自分の人種以外のも のを読むべきだという含意。」