概要: An AI-powered news site, Hoodline San Jose, falsely reported that the San Mateo County District Attorney had been charged with murder, which was an error resulting from misinterpreting a press release about a case the DA's office was prosecuting. The AI-generated article wrongly attributed the crime to the DA instead of the actual suspect.
Alleged: Impress3 developed an AI system deployed by Hoodline San Jose, which harmed Stephen M. Wagstaffe , San Mateo County District Attorney , Residents of San Mateo County と General public.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
3.1. False or misleading information
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Misinformation
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
AI ジャーナリスト組織が誰かを殺人罪で誤って告発したとき、私たちはどう感じるべきでしょうか。誤って告発された人が公人だった場合はどうでしょうか。最近、AI システムが幻覚を起こした場合の責任はどこにあるのかという疑問がいくつかあることは知っていますが、ここで は誰が悪いのかは明らかです。Impress3 という会社が運営する「Hoodline」というナンセンスを流布する AI スラッジ工場です。
私たちは、ひどいAIスラッジジャーナリズムの拡大について何度も書いてきました。そ…
今週、物議を醸しているAI搭載のローカルニュースサイトが、誤って地方検事を殺人罪で告発するという大失態を犯した。
_Techdirt_が最初に報じたように、今月初め、メディアネットワークが米国全土に展開する数多くのローカルニュースサイ トの1つである_Hoodline San Jose_に「サンマテオ郡検事、被害者の遺体の捜索が続く中、殺人罪で起訴」という恐ろしい見出しの付いた記事が掲載された。
これは悲惨な事件であり、全国ニュースになったであろう犯罪であることは言うまでもない…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents