インシデント 62の引用情報

Description: Janelle Shane, an AI research scientist, used 240 popular Christmas carols to train a neural network to write its own carols. This incident has been downgraded to an issue as it does not meet current ingestion criteria.
推定: Janelle Shaneが開発し提供したAIシステムで、Carollersに影響を与えた

インシデントのステータス

インシデントID
62
レポート数
1
インシデント発生日
2017-12-23
エディタ
Sean McGregor

CSETv0 分類法のクラス

分類法の詳細

Full Description

Janelle Shane, an AI research scientist, used 240 popular Christmas carols to train a neural network to write its own carols. The output closely mimicked a Christmas carol, but made no logical sense.

Short Description

Janelle Shane, an AI research scientist, used 240 popular Christmas carols to train a neural network to write its own carols

Severity

Unclear/unknown

Harm Distribution Basis

Age

AI System Description

Neural network designed by Janelle Shane meant to write Christmas carols.

System Developer

Janelle Shane

Sector of Deployment

Arts, entertainment and recreation

Relevant AI functions

Cognition, Action

AI Techniques

Neural network

AI Applications

language processing, language output

Named Entities

Janelle Shane

Technology Purveyor

Janelle Shane

Beginning Date

2017-12-22T08:00:00.000Z

Ending Date

2017-12-22T08:00:00.000Z

Near Miss

Unclear/unknown

Intent

Unclear

Lives Lost

No

Data Inputs

240 popular Christmas carols

CSETv1 分類法のクラス

分類法の詳細

インシデントレポート

レポートタイムライン

AI Incident Database Incidents Converted to Issues
github.com · 2022

The following former incidents have been converted to "issues" following an update to the incident definition and ingestion criteria.

21: Tougher Turing Test Exposes Chatbots’ Stupidity

Description: The 2016 Winograd Schema Challenge highli…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents