やあ、新年おめでとう、席に着いて。AI の悪ふざけがさらに進むかもしれない！私たちはすでに AI ナレーターと AI 著者の急増 について議論している。今年は、今度は「なんてこった人種差別」を添えて、AI 生成の新たなゴミ山で始めてみてはいかがだろうか？
2 日前、Tiana’s LitTalk on Threads が 読者向けソーシャル メディア アプリ Fable から 読者向け要約のスクリーンショット を投稿した。よく知らない人のために説明すると、Fable ユーザーはあらゆるジャンルの本を対象とする読書クラブを主催したり参加したりすることができ、ストアフロントも用意されています。
また、Fable ではユーザーが他のアプリやサービスと同様に読書統計を追跡できるため、ユーザーの 2024 年の累計統計を披露しています。
さて、顎が落ちそうなので、顎をしっかり押さえてください。
これは Tianas_Littalk の要約です。
要約のテキストが読めない場合のために:
Soulful Explorer: あなたの旅は、黒人の物語と変革の物語の核心に深く入り込み、主流の物語を息もつかせません。
たまに白人の著者に浮上することを忘れないでくださいね。
すごい。
すごい。
顎は大丈夫ですか?
そこで最も重要なのは、12月31日に**Fableが元の投稿に返信**して、次のように述べたことです:
「共有していただきありがとうございます。これは問題であることに同意します。解決のためにチームに引き継ぎます。」
本日、1月1日、彼らはフォローアップしました:
これについてフォローアップしたかったのですが、私たちのチームは、このようなことが二度と起こらないように取り組んでいます。このようなことは決して起こるべきではありませんでした。私たちの読者要約は、あなたの読書履歴を記録し、あなたの趣味を冗談めかして批判することを目的としていますが、人種、性的指向、宗教、国籍、またはその他の保護対象クラ スへの言及は絶対に含めないでください。私たちはこれを非常に真剣に受け止め、深くお詫び申し上げます。私たちに責任を負わせていただいたことに感謝します。私たちはより良い対応を約束します。 ❤️
彼らが元旦に返信したことに感銘を受けたことは認めますが、読者のフィードバックに注意を払っており、返信やタグ付けされたスレッドを読んでいることは明らかです。
疑問があります。
まず、これはおそらく AI です。
「読者の要約」という単語の横にある 2 つの小さな星印は、それが AI であることを示しているようです。また、Fable の回答の文言である「読者の要約には絶対に参照を含めるべきではない」は、この選択の直接の責任が 1 人または複数人にあるわけではないことも示唆しています。
そして、ここで少し立ち止まって考えてみましょう。なぜなら、これが人間によって書かれたものである場合、Fable にはさらに大きな問題があるからです。
しかし、この議論のために、これは AI であると仮定しましょう。
つまり、彼らは、おそらくユーザー データと特定のプロンプトに基づいて要約を作成するために生成 AI を使用することを選択したということです。しかし、要約は人間によって校正またはレビューされましたか?
Fable のサービスを頻繁に利用する人々との連絡の主要な要素の 1 つが AI に任されているというのは、ちょっと信じられません。なんてこった。
Tiana の _LitTalk は、Storygraph を利用している と述べ、プラットフォームを切り替えた可能性があることを示唆して、そこで接続するよう人々を招待しました。いくつかの返信では、今後は Fable を使用しないと繰り返し述べられていました。これは…最適ではありません。
私は実際に何度か経験しましたが、顧客対応の仕事はひどいものになり得ることを知っています。顧客サービスを提供する従業員と、不満を持つ顧客のしばしば虐待的な行動の間に AI を配置したいという企業の気持ちは理解できます。しかし、この読者向け要約は、すでに参加していて、統計を蓄積するほど十分にサービスを利用しているメンバー向けです。
人種差別的、性差別的、不正確、危険であることが繰り返し証明されている生成AIを、自分のコミュニティを非難するために使用する理由
スレッドのコメント欄で、どのようなプロンプトが使用されたのかをすでに尋ねている人がいますが、これは素晴らしい質問です。
社内でこの件について議論しているとき、アマンダはこう言いました。
「文化的、文脈的な問題を知らずに、ある本をたくさん読んでいる人に、その「反対」のことを勧めるようにプログラムされているのではないかと思います。」
そうかもしれませんが、それでも情報源が何であれ、非常に不快で、不快で、ぞっとするものです。
私にとって、これは、オンラインで 行くところすべてで AI に遭遇していることを改めて思い起こさせるものです。Google 検索に「-ai」を追加しないと、AI が生成した要約が表示されません。何かのヘルプが必要なときは、AI サービスのプロンプトを操作しなければなりません。アプリやサービスが更新されると、突然、かわいらしい名前の AI が話しかけてきます。
私たちはすでに Clippy でこれをやりました。これをもう一度やる必要はありません。
そして、上記のリンク先の Storygraph は、AI を使用して、リストされている本のプレビューを生成し、本とそのレビューを要約して推奨事項を提供します。しばらく前にこのアップデートについて話している人を何人か見かけましたが、StoryGraph は 2023 年 12 月に Xitter で回答しました:
こんにちは!
本が適している読者のタイプについて短い説明を表示する新しい AI 機能について:
私たちは社内ソリューションを使用しています。外部 API は使用せず、すべての処理はローカルで行われ、ユーザー データは StoryGraph のサーバーから出ることはありません。
AI に関して人々が抱える問題はセキュリティだけではありませんが、レビューやコメントが AI ナレッジ ベース用に収集され、他のベンダーに販売される可能性があることも、セキュリティの問題の 1 つです。そのため、これは社内のみで行われるという声明に、私はいくらか安心しています。
個人的には、本の情報を探すときに見た目や操作があまり魅 力的ではない Goodreads よりも、StoryGraph の使いやすさが好きです。ただし、どちらの場所でも読書データやレビューテキストを入力しません。
いずれにせよ、AI の普及は至る所で起こっており、それを避けようとするのは疲れます。私はテクノロジーの進歩に反対しているわけではありません。決してそうではありません。しかし、AI がひどくて危険であるという例は十分にあり、著者の同意なしに AI が盗作された作品でトレーニングされた または 出版社がそのような使用のために販売した という例も十分にあり、私は AI を見るたびに警戒し、使用しないようにしています。検索結果には役に立たないし、執筆に AI は必要ではありません。
しかし、それはあくまでも私の経験であり、他の人にどんな技術ツールが役に立つかを決めたいわけではありません。補足：Gmailでメッセージを書き終えると、「ポーランド語」というプロンプトが何度も表示されました。私は、うっかり変更してしまった言語設定がメールをポーランド語に翻訳するように何度も要求してきたのかどうか探すのに時間がかかりました。いいえ、それはAIであり、私のメールを_磨き_たいのです。結構です！しかし、前に言ったように、私はポーランド語や磨き上げを望んでいませんが、メールを書くのが困難なときに助けを求める人々の気持ちも理解できます。
さらに、AIが環境に非常にひどく、完全に悪影響を及ぼ さないなら、私が行く先々で、使用するすべてのサービスでAIが提供されても、それほど憤慨することはないはずです。
ただし、この例はAIの別の問題です。 (注: 生成 AI に魚の鍋の画像を求めないでください。ジーンズの悪いアイデアです。) Fable がクエリを修正して、他の読者にこのようなことが起こらないようにしてほしいと思います。また、テキストがひどく不快なほど間違ってしまう可能性があるときに、この使用法の利点に疑問を感じています。
ETA: 1 月 2 日、午前 8:30
Fable は Threads で積極的に対応しており、要約生成に関する詳細情報を共有しています:
私たちはその重要性を理解しており、確かに認識しています。私たちの要約は AI モデルによって生成されており、毎日読書目標の進捗状況を更新する約 200 万人のユーザー向けにパーソナライズされた統計エクスペリエンスを作成できます。私たちは AI を扱う責任を非常に真剣に受け止めており、フィードバックに基づいて常に微調整を行っています。特に、この世代のように問題のある世代に気付いた場合はそうです。私たちは、他の誰もこのような経験をしないように、新しいガードレールを追加しています。
しかし、残念ながら、人種的アイデンティティについてコメントする読者概要を受け取ったのは Tiana だけではないようです。Bluesky の Amanda Rae は、別のユーザーからの別のスクリーンショットを共有しました:
Diversity Devotee: あなたの本棚は、声と経験の鮮やかな万華鏡のようで、ストレートなシスジェンダーの白人男性の視点に耳を傾ける気分になったことがあるのだろうかと疑問に思います!
更新: 情報源を教えてくれた著者の Jo Conklin に感謝します。 このスクリーンショットは著者の Danny B. Groves によるものです。
こちらの方が明らかに皮肉っぽいですが、やはりこのやり方では BIKES の YIKES につながります。
また: いいえ。ストレートなシスジェンダーの白人男性の視点を聞く気分にはなれません。ありがとうございます。