AI ジャーナリスト組織が誰かを殺人罪で誤って告発したとき、私たちはどう感じるべきでしょうか。誤って告発された人が公人だった場合はどうでしょうか。最近、AI システムが幻覚を起こした場合の責任はどこにあるのかという疑問がいくつかあることは知っていますが、ここでは誰が悪いのかは明らかです。Impress3 という会社が運営する「Hoodline」というナンセンスを流布する AI スラッジ工場です。
私たちは、ひどいAIスラッジジャーナリズムの拡大について何度も書いてきました。それは、質の悪い（多くの場合はレガシーな）ニュースサイトが記者を、ひどい文章の嘘をつきやすいAIジャーナリストに置き換え、明らかに編集レビューはゼロものに置き換えているものです。私が言ったように、生成AIツールがジャーナリズムに役立つ場所があるとは思いますが、それはレビューなしで独自に記事を書くことではありません。実際、私はAIツールを使って、自分が書いたもの（AIがあまり気に入らなかったこの記事も含む）をすべて調べてから、人間の編集者にレビューしてもらっています。
しかし、どうやら「Hoodline」など、あまり気にしていない人もいるようです。私たちは実際に、数か月前にAIスラッジニュースサイトに関する記事の1つでHoodlineについて言及しました。
数日前、Googleニュースで推奨されたニュースを読んでいたところ、サンマテオ郡の地方検事が殺人罪で起訴されたという記事が目に留まりました。
これは本当に大きなニュースになるだろうと思われました。特に私が住んでいるサンマテオ郡では。そして私はそれについて何も聞いていませんでした。この記事は、サンマテオ地方検事が殺人罪で起訴されたと再び主張することから始まっています。
予備審問の後、サンマテオ郡地方検事ジョン・カイシアーノ・トンプソン（56歳）は、被害者の遺体が未だ見つかっていないにもかかわらず、自宅で女性を殺害したとされる容疑に関連するすべての容疑について供述するために拘 留されています。 サンマテオ郡地方検事局 の公式 X アカウントによると、トンプソンは、当初は行方不明者の捜索として始まった地方検事局とイーストパロアルト警察の共同捜査の末に逮捕されたとのことです。
最初にこれを読んだとき、サンマテオ郡地方検事局が利益相反を避けるために別の地方検事にこれを引き継いだのではないかと考えました。しかし、記事ではそのようなことは何も議論されていませんでした。実際、記事を読み進めていくうちに、これは実際にはサンマテオ郡地方検事ではないことが明らかになってきました。それは、彼らがしばらく前に逮捕した男が、ようやく起訴されたというだけのことだった。
確かに、記者の署名の横に小さな「AI」があり、それが私にヒントを与えてくれたはずだ。しかし、私は署名を見ていなかったし、たとえ見ていたとしても、おそらく小さな「AI」アイコンに気づかなかっただろう。
それで、何が起こったのか？そう、Bluesky の Nafnlaus アカウントがそれを解明したのだ。
実際、それはサンマテオ郡地方検事の元 Twitter アカウントのツイートから記事を作ろうとしていた。しかし、AI がそれを解析すると、アカウント名「サンマテオ郡地方検事」と、起訴された男で始まるツイートの冒頭が結合された。まとめると、その名前は DA のようです。
解析すると次のようになります:
AI は愚かすぎてこれに気づかず、サンマテオ郡の DA が実際にはスティーブン・ワグスタッフであることに気付くための簡単な検索もできません。人間が実際に確認するような類のことです。
とにかく、これが AI をジャーナリズムで使用する正しい方法ではない理由の 1 つです。Google がこのようなナンセンスを公開しているのに、なぜ Hoodline のようなサイトを Google ニュースで取り上げているのか不思議に思います。これは、Impress3 が運営するサイト、特に Hoodline はまったく信頼できないことを人々に警告するはずです。