今週、物議を醸しているAI搭載のローカルニュースサイトが、誤って地方検事を殺人罪で告発するという大失態を犯した。
_Techdirt_が最初に報じたように、今月初め、メディアネットワークが米国全土に展開する数多くのローカルニュースサイトの1つである_Hoodline San Jose_に「サンマテオ郡検事、被害者の遺体の捜索が続く中、殺人罪で起訴」という恐ろしい見出しの付いた記事が掲載された。
これは悲惨な事件であり、全国ニュースになったであろう犯罪であることは言うまでもない。しかし、このニュースが全国放送されなかったのには重要な理由がある。殺人事件はあったが、検 察官はそれを犯していないのだ。彼らは、犯行とされる男を起訴しただけだ。
Techdirt が発見したように、Hoodline の AI は、サンマテオ DA 事務所の公式アカウントから、X の元 Twitter 投稿を引用したようだ。その投稿では、地方検事局が、地方検事ではない地元の男性が、ついに DA 事務所によって恐ろしい犯罪で起訴されたというありふれたプレスリリースを共有し、それをひどく歪曲して、検察官自身がこの陰惨な殺人を犯したと書いた。私たちは皆、無実 AIによって 犯罪で 告発されるまで。
Techdirt が Hoodline のこの大惨事の誤りを指摘した後、記事の冒頭に 編集者注 という言葉の羅列が掲載された。記事では、この失態は単純な「タイプミス」によるもので、そのせいで「残念ながら内容の意味が変わってしまい」、その結果、地方検事と被告人が別人であるという事実が曖昧になったとしている。
ジャーナリズムでは間違いは起こるものだ。しかし、ジャーナリズムの誤りに関して言えば、大胆にも間違った人物を殺人罪で告発することは、ましてや地方の高官にそのような告発をすることは、かなり重大なことだ。
さらに、現在 Impress3 という怪しげなメディア組織が所有する Hoodline は、AI を使って人工の「ニュース」を見つけて吐き出していることを付け加えると、これはメディア組織または有料のサードパーティ プロバイダーが AI を使用して安価に コンテンツを大量生産しようとする最新の 重大な失策 です。
このエラーは、編集コンテンツが意味のあるレベルの人間による監視の下で作成されるという Hoodline の華々しい約束にも疑問を投げかけます。
「私たちはジャーナリズムを、人間のタッチを必要とする創造的な科学および芸術と見なしています」と、同社の AI 免責事項には 書かれています。 「有益で魅力的なコンテンツの提供を目指して、当社は編集プロセスをサポートし強化するために人工知能（AI）を統合しています。」
この記事は、ウェブサイトの多くの偽のAI生成記者ペルソナの1人であるアイリーン・バーガスの署名入り記事です。今年初めに_Nieman Lab_が報告したように、_Hoodline_の架空のジャーナリストの膨大なラインナップは、実際には圧倒的に白人男性である業界で人種的多様性を装っているとして、幅広い精査を集めています。
AI企業であるGoogle（AIニュース製品をテストしていると報じられている自体にも何らかの影響があるかもしれません。_Techdirt_のマイク・マスニックによると、彼は_Hoodline_の記事がGoogleニュースタブに現れたときに、この偽のAIの告発を発見しました。また、ジャーナリストは間違 いを犯すが、明らかに AI を活用したニュース ネットワークが誤った殺人容疑を提起したことを Google のアルゴリズムがプラットフォーム化していることは、別の意味で眉をひそめる。
明らかに編集基準が低い AI ニュース サイトには、どの程度の自由を与えるべきだろうか。また、アルゴリズムによって生成されたコンテンツの急増する波をふるいにかけるために、ニュース分類アルゴリズムを信頼できるだろうか。
確実に言えることは、健全な編集プロセスの下で働く人間の記者が犯す可能性が非常に低いこのような間違いは、出版社が安価でほとんど監督されていない AI システムに制御を委ねるにつれて、ますます一般的になる可能性が高いということだ。